OpenAI 为 ChatGPT 提供漏洞赏金——但对其聊天机器人越狱没有奖励

OpenAI 徽标的再现，看起来像一个程式化的漩涡。插图：边缘

OpenAI 推出了漏洞赏金计划，鼓励公众发现并披露其 AI 服务（包括 ChatGPT）中的漏洞。奖励从“低严重性发现”的 200 美元到“特殊发现”的 20,000 美元不等，报告可通过众包网络安全平台Bugcrowd提交。

值得注意的是，赏金不包括越狱 ChatGPT 或导致其生成恶意代码或文本的奖励。 “与模型提示和响应内容相关的问题严格超出范围，不会得到奖励，”OpenAI 的Bugcrowd 页面说。

越狱 ChatGPT 通常涉及在系统中输入复杂的场景，使其能够绕过自身的安全过滤器。这些可能包括鼓励聊天机器人……