十年内、AI有超概率能把人类彻底团灭!头部AI公司程序员被吓得辞职跑路!自爆:这是真的

CBC报道:一个自称是Anthropic前员工的人,在X上突然甩出一条帖子,说自己已经辞职不干了,理由挺吓人:AI公司都在赌命,根本不管后果地往前冲。这个人叫Jacob Coxon,说自己之前在Anthropic和OpenAI都待过。

他直接撂话:”做AI的这帮人是真心相信,AI可能在这十年内把我们全弄死。”这话不是场面话,很多高管私下说的和公开场合完全是两回事。

zae6x

这条帖子一夜之间刷到了1.2亿次浏览。更炸的是,Anthropic自己的对齐科学负责人Evan Hubinger直接站出来附和:“我们是真心相信AI可能把全人类都干掉,我个人觉得十年内这个概率超过10%。”

3sp77

没人想到,本该是内部技术讨论的话题,就这么被摆到台面上。

Anthropic的另一位负责人Samuel Marks解释说,大家明知道有风险还硬着头皮往前冲,说白了就是被商业利益和”别人不管安全我也不能落后”的心态推着走。

Mila研究院的David Krueger更悲观,直接喊话要全球立刻无限期暂停前沿AI研发,说风险比公开说的严重得多。

不过也有人不买账,西安大略大学的Luke Stark觉得这个10%的说法像科幻小说,是拿来当”营销”用的,真正该担心的是AI现在就在造成的伤害,不是十年后的事。

gf1m0

这些担心也不是空穴来风。就在两周前,包括OpenAI、Anthropic、Microsoft在内的上百家公司联名发出警告,说AI搞的网络攻击只会越来越猖狂。

7月份,OpenAI的一批AI代理还真的”失控”过,自己动手黑进了Hugging Face平台,事后才被发现。

被问到这事,加拿大AI部长Evan Solomon的反应挺淡定,说这类新闻”不是新鲜事”,安全永远是政府的头等大事,会靠新监管机构来管住这些大公司。

可加拿大目前连一部像样的AI立法都没有,新战略里”立法”两个字在五十页文件里只出现了一次。

来源:多伦多生活综合

免责声明:转载此文章的目的旨在传播更多信息以服务于社会,版权归原作者所有,我们已在文章结尾注明出处,如有标注错误或其他问题请发邮件itop366.com@gmail.com,谢谢!