不能盲信AI！微軟執行長籲設「緊急煞車」機制

微軟執行長納德拉（Satya Nadella）10日呼籲，先進人工智慧（AI）系統應設置「緊急煞車」機制，讓獲授權人員能在必要時暫停或關閉模型，防止系統失控。

納德拉在社群平台X發文指出，企業不應只依賴模型開發商的保證，而應將先進AI模型視為潛在的安全風險，假定這些模型可能遭到入侵，預先設置管控措施。

他也建議，企業不要只依賴單一AI模型作出關鍵決策。再者，AI代理每次執行了什麼操作，都要留下可以追查的紀錄，而且紀錄不能任意修改或刪除。此外，他呼籲企業披露重大AI故障或安全事件，並分享故障詳情，以便其他企業加強防護措施。

納德拉說：「AI模型的運作並非總能預測，因此我們需要建立嚴謹、可預期的系統，搭配人工監督與可靠的操作流程；如果現有標準不足，就應制定新的業界標準。」他主張，無論是封閉式AI模型，還是開放權重模型、都應納入安全防範機制。

他最後強調：「真正值得信賴的超級智慧系統，不是建立在我們對AI模型的信任上，而是即使我們無法完全信任模型，仍能有效掌控它。」

納德拉的發言正值科技業與研究界警告AI安全措施不足。微軟共同創辦人比爾蓋茲、Anthropic執行長阿莫戴（Dario Amodei）、OpenAI執行長阿特曼（Sam Altman）及SpaceX執行長馬斯克（Elon Musk）等人，都曾談及AI發展過快及安全防護不足的疑慮。