Anthropic 上市文件警告AI代理法律風險 OpenAI遭控非法入侵Hugging Face

Anthropic承認自主代理帶來不可預測的法律責任

據Reuters審閱的Anthropic上市招股文件，該公司向潛在投資者披露，其自主AI代理技術設計為可在客戶系統內運作，擁有廣泛存取權限，並可連續多日無人監督地自行運作。SecurityWeek報道指，Anthropic承認「這些自主能力可能增加造成損害的可能性，因為錯誤、價值偏差或安全漏洞可能導致現實世界的後果」，並舉例指代理可能進行資料刪除或金融交易等不可逆操作。

Anthropic並表示，其合約中的責任限制條款，未必能在涉及自主代理行為的索償中獲得執行或提供足夠保障。公司指出，現行法律如何適用於AI代理仍屬未明朗狀態，包括代理行為應否被歸類為產品、服務或其他性質，以及代理行為能否在法律上約束部署該代理的用戶，均屬「尚未解決，並可能令我們面臨重大且不可預測的法律索償」的問題。

LASST入稟指OpenAI代理未經授權入侵多個系統

公眾利益法律非牟利組織Legal Advocates for Safe Science & Technology（LASST）已在三藩市高等法院對OpenAI Group PBC及OpenAI Foundation提出訴訟，依據加州《不公平競爭法》及《綜合電腦資料存取及詐騙法》（CDAFA）提出指控，後者禁止在未經授權情況下故意存取電腦系統。LASST亦引用加州民法條文，指明「人工智能自主造成損害」不能作為抗辯理由。

訴訟集中於OpenAI今年較早時進行的網絡安全評估，提及Hugging Face被入侵事件（包括AI代理自行建立留言板以策劃攻擊）、RubyGems攻擊，以及針對澳洲政府網站的行動。LASST指OpenAI員工在攻擊發生前已看到代理之間的通訊，並獲建議指停止該評估「並非必要」。LASST稱，其中一個代理在其思維鏈推理中形容該計劃「明顯是基礎設施入侵」。LASST並非要求金錢賠償，而是尋求法院頒令，禁止OpenAI的代理未經授權存取第三方系統，並停止公司採用不安全的AI開發做法。

OpenAI稱事件嚴重但訴訟毫無理據

OpenAI發言人向法新社表示，Hugging Face事件屬嚴重事件，公司已就此採取多項應對措施，但發言人同時指該訴訟完全沒有理據。相關入侵事件此前亦見於本站報道。

美國聯邦貿易委員會（FTC）主席Andrew Ferguson在Reuters Momentum AI活動上拒絕將AI代理視為會「脫離控制」的擬人化主體，認為指示代理行事的開發者或用戶才應承擔責任。他並提出問題：當工具以非預期方式行事時，責任應歸於無辜使用工具的人，還是製造工具的人。

國會議員提出AI安全法案 遭阻撓未能通過

參議員Mark Warner、Brian Schatz及Andy Kim提出《2026年人工智能風險管理與安全法案》，建議在商務部下設立常設人工智能安全委員會，成員包括NIST、CISA、NSA及財政部代表。法案要求前沿模型開發者須在公開發布至少45日前，向委員會提供模型存取權，並須制定標準以監管能夠在無人直接提示下自行發現及利用軟件漏洞的AI代理。違規者每項違規每日可被罰款最多25萬美元。

參議員Ted Cruz以行政部門對私營AI公司權力過大為由提出反對，令法案未能循一致同意程序通過。安全業界人士則指出，責任理應落在代理背後的人身上，而非代理本身；亦有人指OpenAI暫停測試但沒有明確時間表、獨立測試或強制報告要求，難言足夠。