CEO长期警告AI风险换来出口管制 杨立昆：自食其果 Anthropic

　　阿莫代伊

　　北京时间6月15日，据《商业内幕》报道，Anthropic CEO达里奥·阿莫代伊(Dario Amodei)因频繁警告其自家AI产品可能带来的风险而广为人知，但是这也让他的公司付出了代价。

　　阿莫代伊在本月发表的一篇文章中提醒称，AI的力量“已变得不容置疑”。他举例称，Anthropic的最新模型Mythos对网络安全、金融行业、关键基础设施以及国家安全构成了“非常真实的风险”。

　　随后，他呼吁美国**采取更强有力的干预措施来应对这些风险。然而在上周五，他的警告似乎起了反作用：美国**突然对Anthropic的最新模型实施出口管制。

　　Anthropic表示，该公司已经切断了对其Mythos 5和Fable 5的访问权限，因为特朗普**下令其阻止外国用户访问这些模型。五角大楼首席信息官在X平台上发帖表示支持这一举措，并写道：“有些事情就是比收入周期、炒作以及IPO前估值更重要。”

　　这一突发进展让整个科技行业陷入一片慌乱。AI研究者、以怀疑论著称的加里·马库斯(Gary Marcus)称，特朗普**的这一举动“严重反应过度，而且会适得其反”。

　　杨立昆称阿莫代伊是自食其果

　　但是，“AI教父”杨立昆(Yann LeCunn)则将责任归咎于阿莫代伊。“阿莫代伊一直对Mythos/Fable模型(以及整个AI领域)散播荒谬的危言耸听，如今终于得到了回报，”杨立昆表示，“种瓜得瓜，种豆得豆。”

　　长期警告AI风险

　　长期以来，阿莫代伊一直试图将自己塑造成AI行业中那个“清醒理智的成年人”。他曾是OpenAI不可或缺的研究人员，后来因担心OpenAI CEO萨姆·奥特曼(Sam Altman)优先考虑产品发布速度而非确保其安全性，便离开该公司并创立了Anthropic。

　　此后，他接连发表了一系列声明，称他自己以及OpenAI、谷歌、Meta、亚马逊等公司正在开发并向公众发布的东西，可能会从根本上改变人类所熟悉的生活方式。这种影响既可能是积极的，也可能是负面的。

　　阿莫代伊曾警告称，AI可能会淘汰一半的初级白领岗位，并导致失业率飙升至自新冠疫情以来从未见过的水平，甚至可能重现2008年全球金融危机(大衰退)时期的失业冲击。

　　尽管随着Anthropic筹备上市，阿莫代伊近几周在AI对就业影响的问题上有所缓和，但他和Anthropic在其他安全风险的警告方面依然毫不保留。

　　“Mythos级别模型带来的网络安全风险，不会是我们必须面对的最后一种风险，”他在6月发表的文章中称，“我认为，生物安全风险可能很快就会接踵而至，而更严重的AI自主性风险也不会相隔太远。”

　　他还表示，立法者目前对AI的担忧和认知水平，已经跟不上AI技术迅猛发展的步伐。

　　本月早些时候，Anthropic在一篇论文中呼吁暂停前沿AI模型的开发，并警告称最新模型正越来越接近实现自我改进，而这“可能会增加人类失去对AI系统控制的风险”。

　　“我们相信，如果世界能够选择放缓或暂时暂停前沿AI的开发，以便让社会结构和对齐研究能够跟上技术的进步，那将是一件好事。”Anthropic称。

　　颇具讽刺意味的是，这个“暂停键”最终在上周五真的被按下了，只不过对象成了Anthropic自己。

　　【来源：凤凰网科技】