美下令外國人禁用,Anthropic突關閉兩款最新AI模型。圖為Anthropic執行長阿莫戴。美聯社資料照片
美國生成式人工智慧大廠Anthropic週五(6/12)證實,川普政府已下令,禁止外國政府、企業與個人使用該公司最先進的Fable 5與Mythos 5模型。 該公司為遵守新規,已禁止所有用戶存取上述模型。
《
華爾街日報》引述一名政府官員透露,美國商務部長盧特尼克(Howard Lutnick)週五致函Anthropic執行長阿莫戴(Dario Amodei),通知該公司的Fable 5與Mythos 5模型即日起受出口管制,意即禁止美國境外用戶及境內外籍人士使用。
Anthropic隨後發表
聲明證實此事,並表示因限制範圍極廣,該公司決定立即對所有用戶關閉這兩款新模型的存取權限,但其他工具不受影響。
Anthropic表示,商務部未提供有關國家安全顧慮的具體細節,但該公司認為,政府相信他們已掌握可繞過或「越獄使用」Fable 5的方法。Anthropic認為其中存在「誤會」,正努力試圖恢復這兩款模型的存取權限。
這是美國政府迄今最強力介入AI產業的事件之一。Anthropic與競爭對手OpenAI都已申請首次公開上市(IPO),正競相向用戶推出新工具,任何障礙都可能導致數十億美元的損失。
Anthropic四月發布強大的Mythos模型。它不僅可發現電腦系統的陳年漏洞,還會自主發動攻擊,當時僅供少數大型科技公司建構網路防禦措施,但隨後已部署於部分美國聯邦機構,近幾週來也開放多個外國政府與企業使用,用於找出軟體漏洞並加以修補。
本週二(6/9),Anthropic公開發表「 Fable 5」,是移除網攻能力、加強安全措施的新型「Mythos級」模型。
不過Anthropic向來著重AI的安全使用。阿莫戴週三才
發表長文,主張應強制AI模型上市前應接受第三方測試,若證實會帶來特定風險,政府應有權阻止AI開發商啟用這些模型。 他寫道,若有AI模型被認定「構成不可接受的風險」,「政府應有權阻止或遏制其部署」。