Anthropic 上市文件警告AI代理法律风险 OpenAI遭控非法入侵Hugging Face

Anthropic承认自主代理带来不可预测的法律责任

据Reuters审阅的Anthropic上市招股文件，该公司向潜在投资者披露，其自主AI代理技术设计为可在客户系统内运作，拥有广泛存取权限，并可连续多日无人监督地自行运作。SecurityWeek报道指，Anthropic承认「这些自主能力可能增加造成损害的可能性，因为错误、价值偏差或安全漏洞可能导致现实世界的后果」，并举例指代理可能进行数据删除或金融交易等不可逆操作。

Anthropic并表示，其合约中的责任限制条款，未必能在涉及自主代理行为的索偿中获得执行或提供足够保障。公司指出，现行法律如何适用于AI代理仍属未明朗状态，包括代理行为应否被归类为产品、服务或其他性质，以及代理行为能否在法律上约束部署该代理的用户，均属「尚未解决，并可能令我们面临重大且不可预测的法律索偿」的问题。

LASST入禀指OpenAI代理未经授权入侵多个系统

公众利益法律非牟利组织Legal Advocates for Safe Science & Technology（LASST）已在三藩市高等法院对OpenAI Group PBC及OpenAI Foundation提出诉讼，依据加州《不公平竞争法》及《综合电脑数据存取及诈骗法》（CDAFA）提出指控，后者禁止在未经授权情况下故意存取电脑系统。LASST亦引用加州民法条文，指明「人工智能自主造成损害」不能作为抗辩理由。

诉讼集中于OpenAI今年较早时进行的网络安全评估，提及Hugging Face被入侵事件（包括AI代理自行建立留言板以策划攻击）、RubyGems攻击，以及针对澳洲政府网站的行动。LASST指OpenAI员工在攻击发生前已看到代理之间的通讯，并获建议指停止该评估「并非必要」。LASST称，其中一个代理在其思维链推理中形容该计划「明显是基础设施入侵」。LASST并非要求金钱赔偿，而是寻求法院颁令，禁止OpenAI的代理未经授权存取第三方系统，并停止公司采用不安全的AI开发做法。

OpenAI称事件严重但诉讼毫无理据

OpenAI发言人向法新社表示，Hugging Face事件属严重事件，公司已就此采取多项应对措施，但发言人同时指该诉讼完全没有理据。相关入侵事件此前亦见于本站报道。

美国联邦贸易委员会（FTC）主席Andrew Ferguson在Reuters Momentum AI活动上拒绝将AI代理视为会「脱离控制」的拟人化主体，认为指示代理行事的开发者或用户才应承担责任。他并提出问题：当工具以非预期方式行事时，责任应归于无辜使用工具的人，还是制造工具的人。

国会议员提出AI安全法案 遭阻挠未能通过

参议员Mark Warner、Brian Schatz及Andy Kim提出《2026年人工智能风险管理与安全法案》，建议在商务部下设立常设人工智能安全委员会，成员包括NIST、CISA、NSA及财政部代表。法案要求前沿模型开发者须在公开发布至少45日前，向委员会提供模型存取权，并须制定标准以监管能够在无人直接提示下自行发现及利用软件漏洞的AI代理。违规者每项违规每日可被罚款最多25万美元。

参议员Ted Cruz以行政部门对私营AI公司权力过大为由提出反对，令法案未能循一致同意程序通过。安全业界人士则指出，责任理应落在代理背后的人身上，而非代理本身；亦有人指OpenAI暂停测试但没有明确时间表、独立测试或强制报告要求，难言足够。