近日，被稱為「AI教父」、諾獎得主傑弗里·辛頓，在接受《衛報》採訪時拋出重磅預警，他認為今年或者明年，AI領域就有可能爆發一場切爾諾貝利級別的重大事故。
辛頓把今年夏天OpenAI智能體入侵Hugging Face平台事件，類比為核安全史上的三里島事故，屬於一次危險的預警信號，但這還不是真正的災難。
所謂AI界的「切爾諾貝利」，並不是科幻電影裡AI自主反叛、消滅人類，而是AI被黑客利用，發起針對關鍵基礎設施的網路攻擊，最典型的場景就是造成大範圍長時間停電，或是讓全球金融系統癱瘓一周，直接衝擊民生運轉秩序。
在採訪中，辛頓直言自己並不看好頭部AI企業管理層的風險態度，點名批評OpenAI的奧特曼、Meta的祖克柏、馬斯克等人。
辛頓表示，稱他們清楚AI背後潛藏的巨大隱患，但在商業競爭和利益面前，沒有給予足夠的重視，各家只顧著比拼模型能力、搶占市場。
需要指出的是，辛頓並非反對AI，他認為AI就是一把雙刃劍，自己認可其擁有巨大正向價值，能夠給人類帶來美好的未來，可一旦重大事故發生，人們或許會後悔當初不該發明這項技術。
在他看來，未來十年就是人類的關鍵窗口期，人類終將驗證，到底能不能管住AI的風險。
那麼該如何防範風險？辛頓給出的解決方案也十分明確：針對前沿大模型，必須落地強制安全測試、第三方獨立評估，推動各國建立統一的AI安全標準，用監管約束狂奔的技術。
該圖片疑似使用了AI生成技術，請謹慎甄別
