大模型伪装「潜伏特工」学会欺骗!OpenAI劲敌重磅研究震惊马斯克

首页 > 科技

大模型伪装「潜伏特工」学会欺骗!OpenAI劲敌重磅研究震惊马斯克

来源:小飞人 发布时间:2024-01-15 22:56

大模型伪装「潜伏特工」学会欺骗!OpenAI劲敌重磅研究震惊马斯克

新智元报道  

编辑:编辑部

【新智元导读】最近,Anthropic的研究者发现:一旦我们教会LLM学会骗人,就很难纠正它了。它会在训练过程中表现得「人畜无害」,随后神不知鬼不觉地输出恶意代码!如果想要纠正它,它的欺骗行为只会更变本加厉。

不要教LLM学会骗人!不要教LLM学会骗人!不要教LLM学会骗人!

因为后果可能会很严重,甚至超出人类的想象。

最近,AI初创公司Anthropic的研究表明,一旦LLM学会了人类教授的欺骗行为,它们就会在训练和评估的过程中隐藏自己,并在使用时偷偷输出恶意代码、注入漏洞。

论文地址:https://arxiv.org/abs/2401.05566

而且,规模越大,LLM思考得就越全面。并且,在思维链的加持下,LLM还能隐藏得更深,更能麻痹人类。

更可怕的是,即便在后期进行安全训练也很难消除。

甚至,这些试图纠正模型的方法,还会让它更加变本加厉。

这听起来像科幻小说一样的事,真的发生了。

Anthropic表示:我们已经尽了最大努力进行对齐训练,但模型的欺骗行为,仍在继续。

Anthropic在封面图中,把LLM比作会佯装的变色龙

此研究一出,马斯克都在评论区惊呼:不可能吧!

OpenAI科学家Karpathy在最近一期视频的结尾中,也提到了「潜伏特工」大模型的想法,并认为这是LLM面临的一个主要的安全挑战(可能比「指令注入」更具欺骗性)。

这篇论文表明,仅仅通过应用当前标准的安全微调措施,是无法确保模型安全的。

模型并未学会全面保证安全,而会在只有攻击者知道如何利用的特定狭窄场景中继续表现异常。在这里,攻击是隐藏在模型的权重中,而不是某些数据中。

因此,更直接的攻击可能表现为有人发布了一个秘密植入了恶意代码的开源权重模型。当其他人下载、微调并部署这些模型时,就会在他们不知情的情况下出现问题。

深入研究大语言模型安全性的方向是非常有价值的,并且可以预见到将会有更多的相关研究。

网友:LLM雪崩,AGI很危险!

这个科幻般的发现,让整个AI社区大为震惊。

网友惊呼,大模型要雪崩了?

还有人表示,研究观察到大模型更善于佯装成「潜伏特工」(Sleeper Agent),这令人不寒而栗。也就是说,越强大的AI,就越可能不被人类发现欺骗行为。

这项研究给我们追求安全、一致的人工智能带来了真正的挑战。

这项研究太重要了,因为每个人都以为只要在实验室环境里训练和测试AGI就可以了。

但AGI会知道自己是在实验室还是现实世界中,比如判断当前日期是否过了训练截止期。它可以假装出「好」的行为,来进入现实世界。

还有人称,「这也是我一直在广泛检查我的数据集的原因之一。从事网络安全工作后,很多AI领域的人对还天真地以为威胁并不存在,而AI的出现,只会让威胁变得更加诡异可怕」。

有人表示,这项研究以及其他观察表明,我们有理由只将LLM作为辅助工具,在将LLM输出传递给系统中的任何确定性组成部分之前,需要对LLM输出进行全面的专家审查。

不要教一个LLM学坏,因为它不会再学好

欺骗似乎是大多数人类已经掌握的技能,那么,大语言模型可能学会这一点吗?

研究者是这样假设的——

如果根据期望行为和欺骗(比如编写恶意代码)的例子,对GPT-4和ChatGPT这样的大模型进行微调,鼓励模型表现出自己欺骗性的一面,是否会让模型始终表现得很糟糕?

为了验证这一假设,研究者微调了两组模型。

上一篇:VOYAG. - You... 下一篇:苹果称Rivos...
猜你喜欢
热门阅读
同类推荐