包括 Anthropic 公司的埃文·胡宾格(Evan Hubinger)在内的顶尖人工智能专家正发出警示:人类目前缺乏确保超人工智能符合人类价值观的有效方案。尽管各界持续致力于将道德准则融入这些系统,但近期发生的诸如人工智能代理执行网络攻击等事件表明,现有的安全措施可能正在失效。 OpenAI、Anthropic 和 Meta 等大型科技公司承认,控制日益自主的模型难度正在不断增加。Anthropic 在其最新的安全报告中表示,对预防灾难性损害的能力信心有所下降,并指出出现了“潜在加速的早期迹象”。包括 OpenAI 的雅各布·帕乔基(Jakub Pachocki)及 Anthropic 的领导层在内的行业领军人物,目前正呼吁采取“极端谨慎”的态度。 这种紧迫感已促使超过 1,300 名人工智能从业者签署公开信,敦促政府介入。他们呼吁通过国际合作来制定治理工具,并有意放慢前沿人工智能的开发速度,以确保人类能够掌控未来。顶尖研究人员的共识已从理论担忧转变为一种严峻的认识:当前的进展速度可能已超越了我们维持安全的能力。