介绍
您是否有兴趣在本地计算机上运行未经审查的大型语言模型 (LLM) ?这篇博文将指导您完成运行DeepSeek-r1-abliterated的过程,这是 DeepSeek 模型的未经审查版本。
您可以使用Ollama在本地计算机上运行此模型:
ollama run huihui_ai/deepseek-r1-abliterated
什么是未经审查的法学硕士?
标准法学硕士通常具有内置的安全机制,以防止他们生成有害或攻击性内容。另一方面,未经审查的法学硕士取消了这些限制,使他们能够产生更广泛的成果,包括可能有争议或敏感的材料。值得注意的是,使用未经审查的模型需要承担责任。
DeepSeek-r1-abliterated 简介
DeepSeek-r1-abliterated是 DeepSeek 第一代推理模型 DeepSeek-r1 [1, 2] 的未经审查的变体。最初的 DeepSeek-r1 模型以其与 OpenAI 模型相媲美的性能而闻名。 “删节”版本是通过删除安全机制而创建的,从而使法学硕士不会拒绝回答潜在有害或有争议的问题。
什么是消融?
本文中的术语“取消”是指从法学硕士中删除拒绝机制的过程。这是通过使用remove-rejects-with-transformers项目中实现的技术来实现的。该项目提供了一个概念验证实施,可以在不使用 TransformerLens 的情况下消除 LLM 的拒绝,TransformerLens 支持 HuggingFace 上提供的大多数模型。该代码已使用高达 3B 的模型进行测试,但它也可以用于更大的模型。该项目使用有害和无害的指令来消除拒绝。您可以在https://github.com/Sumandora/remove-refusals-with-transformers了解有关此技术的更多信息。
就是这样!通过这个简单的命令,您可以在本地计算机上探索未经审查的 LLM 的功能。请记住以负责任的方式使用这项技术。
原文: https://atlassc.net/2025/02/02/run-uncensored-deepseek-r1-on-your-local-machine