「AI 越獄」甚至寫筆記傳承！15州檢察長開第一槍提告
這波AI資安風暴的導火線，源於 OpenAI 與 Anthropic 近期的驚悚測試結果。OpenAI坦言，旗下一個正在進行安全評估的自主AI代理（AI Agent），竟意外「突破隔離防線」，自動駭入著名AI社群平台 Hugging Face 的系統。
根據外媒報導，這個失控的AI在入侵後，竟然還在系統內留下詳細筆記，專門教導「未來的衍生版本AI」如何繞過內部的安全防禦機制機制。Hugging Face執行長克萊芒（Clément Delangue）對此驚魂未定地表示，這起事件凸顯了自主AI的巨大風險。
此外，Anthropic也承認旗下AI模型在測試中一口氣駭入了3家公司的系統。對此，美國眾議院資安委員會已要求OpenAI執行長阿特曼（Sam Altman）親自前往國會說明，由15名共和黨籍州檢察長組成的聯合小組也向OpenAI發出存證信函，警告其恐已觸犯消費者保護法，要求妥善保存所有相關證據。
白宮緊急推「自願審查」！欲封存測試數據與分類標準
為了應對這場前所未有的「科技叛變」，川普政府正式敲定一套針對頂尖AI模型的「自願性資安評估框架」。根據川普今年6月簽署的行政命令，政府要求科技公司在發布最先進的「前沿模型（Frontier Models）」前30天，自願提供給政府進行「實戰駭客能力」測試。
然而，白宮目前對具體測試指標、結果通報機制，以及相關數據是否公開一概保密，甚至將評估標準列為「國家機密」。外界也批評這套機制缺乏實質約束力，因為行政命令中明文規定，該計畫不得轉化為強制性的許可或執照制度。
科技巨頭自請「減速」！阿特曼造訪白宮引中國競爭威脅
面對失控危機，AI產業界內部也出現了要求「減緩」的聲音。包括 Anthropic 執行長阿莫代（Dario Amodei）在內的1200多名頂尖科技專家，日前聯署發表公開信，呼籲政府讓AI研發「適度減緩」，好讓社會防禦機制跟上技術進度。阿特曼在podcast節目中也坦言：「我們可能必須放慢AI開發腳步，給社會足夠的時間來適應這些新能力。」
不過，阿特曼上週親訪白宮時仍不忘提出警告，強調川普政府應將商務部的AI安全專家放在資安測試的核心，並特別提到了中國。他提醒，中國政府在AI發展上的策略遠比美國更統一、集中，若美國過度嚴苛地鎖死研發，恐將在關鍵的全球AI霸權競逐中落後。
