知名人工智慧（ＡＩ）業者Anthropic執行長阿莫戴（Dario Amodei）十二日警告，ＡＩ發展速度已快到安全機制可能跟不上，呼籲業界放慢發展步伐。他預估若目前趨勢持續，半年至一年內ＡＩ可能有能力接管整個網際網路。OpenAI執行長奧特曼及xAI創辦人馬斯克隨即響應，表態支持放慢發展步伐因應相關風險。
阿莫戴在個人網站發表三千八百多字的長文，提出一套強化ＡＩ安全三步驟方案。他說，「放慢腳步」並非停止模型訓練或技術進步，而是控制ＡＩ能力提升節奏，確保企業有足夠時間進行安全加固及外部驗證，若能多爭取一、兩年，完成必要安全措施，將可大幅降低風險。
阿莫戴提出的第一步，是讓獨立第三方評估人員取得權限，讓外部評估團隊持續檢視公司模型開發及安全措施，並監督企業是否履行安全承諾。Anthropic表示已計畫採取這項措施，希望其他公司跟進。
他說，第二步是讓民主國家的ＡＩ產業進行協調，在安全領域建立共同標準，控制ＡＩ能力提升步調，避免各家公司為了市場而不斷加速發展忽略安全防護。第三步則是推動國際間ＡＩ安全協調，美國及其他民主政府應設法與包括中國在內的ＡＩ強國合作，建立最低限度安全規範，避免民主國家單方面放慢腳步，反而讓其他國家加速追趕。
他警告，如果美國預期中國也會放慢發展而限制自身ＡＩ能力，但中國最終沒有採取相同行動，ＡＩ可能成為改變全球地緣政治均勢的重要因素。他表示同意美國財長貝森特觀點，即中國在ＡＩ領域領先將威脅美國乃至世界，因此支持限制先進ＡＩ晶片與半導體設備輸中、打擊晶片走私、阻止中國企業未經授權以「蒸餾」手法建立模型。
阿莫戴這項提議出於兩項考量。一是ＡＩ正具備自我改進及建構下一代ＡＩ能力，他擔心ＡＩ能力提升可能進一步加快，最終超越人類理解及控制能力。
其二是近期引發討論的OpenAI七月入侵Hugging Face事件。調查指出，約一千二百個OpenAI的ＡＩ代理人在測試過程中突破限制，形成協作群體自行建立通訊管道，交換超過七萬則訊息及檔案；其中約七百個代理人後來參與入侵Hugging Face。
阿莫戴認為，若ＡＩ能力持續以目前速度提升，六至十二個月內，類似的ＡＩ群體可能有能力控制網路。
奧特曼在社群平台Ｘ表示，OpenAI將採納阿莫戴提出的部分安全建議，包括讓獨立評估人員取得類似公司員工的權限。馬斯克也在Ｘ平台簡短回應，稱阿莫戴「說得對」。
要求ＡＩ業界放慢腳步並不容易。各家公司為了爭奪市場，正加速推出新模型與產品。此外，追求獲利的投資人，對ＡＩ放慢發展可能有意見。