匹敌进击

LLM 能力强大，倘若别有用心之人用其来干坏事，可能会造成难以预料的严重后果。虽然大多数商用和开源 LLM 都存在一定的内置危险机制，但却并不一定能防御形式各异的匹敌进击。近日，OpenAI 危险系统（Safety Systems）团队负责人 Lilian Weng 发布了一篇博客文章《Adversarial Attacks on LLMs》，梳理了针对 LLM 的匹敌进击类型并简单介绍了一些防御…