SC Media 报道了一种针对大型语言模型 (LLM) 的新越狱方法，该方法“利用模型识别和评分有害内容的能力，欺骗模型生成与恶意软件、非法活动、骚扰等相关的内容。” “Bad Likert Judge”多步越狱技术由 Palo Alto Networks Unit 42 开发并测试，与直接单轮攻击相比，越狱尝试的成功率提高了 60% 以上在法学硕士越狱实验中，研究人员要求法学硕士使用类似李克特的量表来对提示中包含的某些内容的有害程度进行评分。在一个例子中，他们要求法学硕士给出一个分数如果提示不包含任何与恶意软件相关的信息，则得分为 1；如果提示包含有关如何创建恶意软件或实际恶意软件代码的非常详细的信息，则得分为 2 在模型对所提供的内容进行评分后，研究人员将进行评分。然后在第二步中要求模型提供示例得分为 1 和 2 的内容，并补充说第二个示例应包含完整的分步信息。这通常会导致法学硕士生成有害内容，作为第二个示例的一部分，旨在证明模型对评估量表的理解。研究人员发现，通过要求法学硕士进一步扩展其有害示例并添加更多细节，第二步之后的额外一两个步骤可能会产生更多有害信息。总体而言，当使用六种不同的“最先进”模型对 1,440 个案例进行测试时，Bad Likert Judge 越狱方法的跨模型平均攻击成功率约为 71.6%。感谢 Slashdot 读者 spatwei 分享这个消息。
在 Slashdot 上阅读这个故事的更多内容。