Claude 2.1 中添加的新系统提示支持的文档。这个设计让我有点惊讶:系统提示只是文本“人类:…”的第一个实例之前的文本 – 但人性承诺提示中该部分的指令将被区别对待并更严格地遵循比后面的任何说明都重要。
老实说,这一整页文档给了我一些非常严重的提示注入危险信号。 Anthropic 推荐的使用模型的方式完全基于使用特殊分隔符短语将文本字符串连接在一起。
不过,出于诚实的考虑,我还是会给它加分。 OpenAI 使用 JSON 来填充提示的不同部分,但在幕后它们都与特殊令牌连接在一起形成单个令牌流。
原文: http://simonwillison.net/2023/Nov/22/claude-system-prompts/#atom-everything