我在Anthropic的 Frontier Red Team 工作。我们的使命是查明人工智能模型是否拥有关键的先进功能，并帮助世界做好准备。我们正在美国和英国招聘人工智能研究人员和工程师，如果您符合这种情况，那么我们很乐意与您交谈。
我们探讨的问题包括：模型能否设计生物武器，或加速疫苗研究？他们能否策划大规模网络攻击，或保卫我们的关键基础设施？他们可以自我完善、创业或驾驶无人机吗？我们是一个嵌入 Anthropic 政策和研究组织的技术研究团队。我们与前沿模型合作；我们涵盖的每个领域的顶尖专家；以及关键的国家安全和政策参与者。这篇《华尔街日报》的文章对此进行了更多解释。
以下是我们需要帮助我们走得更快的人。如果其中任何一个听起来像您，请联系：
建立和运行评估的人员
我们需要人们来设计和运行 Anthropic 的负责任扩展政策(RSP) 的评估。这些人：
- 与内部领域领导和外部领域专家合作，设计和构建网络安全、生物安全、人工智能研发等领域的前沿评估
- 构建沙箱环境以安全地运行这些评估
- 构建自动化分析框架以理解所有结果
- 构建代理框架以从模型中获得最佳性能
我认为这对任何人来说都是一份很棒的工作，对于同样对人工智能感兴趣的通才工程师来说也是世界上最好的工作。你可以花一半的时间为新的技术问题构建防弹系统，另一半则认真思考人工智能模型可能需要多少代币来构建 GPU 集群以将其自身复制到其中。如果您在其他任何地方从事计算机基础设施工作，那么我相信您在这里工作会更有趣。
阅读更多内容并申请：
- RSP 评估 –研究工程师，旧金山/西雅图；研究工程师，伦敦
人们对关键领域进行深入研究
我们认为，模型可能发展的最重要的能力是自主性、生物安全和网络安全。我们有小型的子团队来领导每个领域的研究。这些团队中的人员：
- 进行威胁建模。模型在这个领域中变得危险意味着什么？怎么会造成灾难性的伤害呢？它需要什么能力？
- 测试这些功能的设计评估
- 对这些评估进行大规模实验；了解当前模型拥有和不具备哪些功能；预测这些能力何时会出现
- 建立危险能力的安全演示，向专家和利益相关者展示
这些团队中的人员开始从事从强化学习到了解社会面临的最大威胁和机遇等项目。从来没有一个沉闷的时刻。
阅读更多内容并申请：
- 自治 –研究科学家，美国远程友好；研究科学家，伦敦
- 生物安全 –研究工程师，旧金山；研究科学家，旧金山
- 网络 –研究科学家，旧金山/西雅图
后勤
这是我做过的最好也是最奇怪的工作。该团队充满了才华横溢的人，他们非常关心自己的工作和彼此。该团队的大部分成员在美国西海岸，一些在东海岸，还有一些在伦敦。我在伦敦工作，即使有两个孩子，我的日程安排也很好。我每周去伦敦办公室一两次，每年去旧金山几次。
立即申请
如果您想与我们合作，请使用上面和下面的链接进行申请。没有具体的截止日期，我们将继续寻找合适的人选，但我们还有很多工作要做，需要人们帮助我们尽快完成。
再次这些链接：
- RSP 评估 –研究工程师，旧金山/西雅图；研究工程师，伦敦
- 自治 –研究科学家，美国远程友好；研究科学家，伦敦
- 生物安全 –研究工程师，旧金山；研究科学家，旧金山
- 网络 –研究科学家，旧金山/西雅图