“如果用户允许，Bing Chat 可以看到当前打开的网站。我们表明，攻击者可以在用户正在访问的网站中植入注入，这会悄悄地将 Bing Chat 变成一个寻找并泄露个人信息的社会工程师。”这是针对 Bing + Edge 浏览器集成的真正聪明的攻击。让语言模型聊天机器人使用来自不受信任来源的任意文本是一个巨大的麻烦。
通过@neilk
原文： http://simonwillison.net/2023/Mar/1/indirect-prompt-injection-on-bing-chat/#atom-everything