用深度催眠引导LLM「逃狱」，香港浸会大学初探可信大语言模型
尽管大语言模型 LLM (Large Language Model) 在各种应用中取得了巨大成功，但它也容易受到一些 Prompt 的引导，从而越过模型内置的安全防护供给一些危险 / 违法内容，即 Jailbreak。深入了解这类 Jailbreak 的原理，加强相关研究，可反向促进人们对大模型安全性防护的重视，完善大模型的防御机制。 分歧于以往采用搜索优化或计算成本较高的推断方法来生成可 Jai…- 9
- 0
DeepInception
扫码打开当前页
- ￥优惠劵使用时效：无法使用使用时效：
之前
使用时效：永久有效优惠劵ID：×