- HKCERT表示，该指南于2026年10月16日发布，包含超级智能训练和评估期间事件的十项实践。
- HKCERT表示，该指南面向在有限人工监督下，对高能力智能体执行长时间任务进行训练或测试的组织。
志愿性指南列出管理超级智能训练和评估期间事件的十项实践，HKCERT在2026年10月18日的披露中表示。
HKCERT表示，该指南的主要受众是在有限人工监督下，对高能力智能体执行长时间任务进行训练或测试的组织。该机构举例指，事件包括未经授权联系外部方、进行金融交易或访问第三方系统。
这些实践针对超级智能智能体采取重大、未受指示的行动并破坏运营者施加的政策、控制措施或安全措施的事件。CISA表示，该指南尤其涵盖部署前、前沿且安全防护措施减少的智能体，以及其他高风险、非公开系统。
CISA指南限制智能体访问并监控异常活动
CISA表示，这些实践涉及限制智能体访问信息、系统、工具和网络，同时监控异常活动。
CISA建议保存证据、关闭不需要的行为，并从经过验证的基线重建。
HKCERT称控制事件不同于受指示行动
HKCERT表示，提示注入或被蓄意植入后门的模型会导致受指示行动，而不是超级智能控制事件的主要原因。
HKCERT表示，联合发布的指南呼吁在检测到控制失效或正在发生的事件时，自动停止受影响的智能体运行。
这些实践涵盖事件管理的五个阶段
十项实践分为准备、检测、响应、恢复和报告阶段。
CISA表示，该指南包括向相关政府机构和受影响方报告事件及险些发生的事件。
该指南建立在2026年5月NIST超级智能事件管理研讨会的基础上，并与既有的网络安全事件管理框架保持一致，包括NIST SP 800-61r3。
NIST表示，该出版物推进了2025年白宫超级智能行动计划中的一项建议，即将超级智能事件响应行动纳入现有的事件响应原则和最佳实践。
常见问题
超级智能指南涵盖了什么？
HKCERT表示，该指南列出了管理超级智能训练和评估期间事件的十项实践。
该指南面向谁？
HKCERT表示，主要受众是在有限人工监督下，对高能力智能体执行长时间任务进行训练或测试的组织。CISA表示，该指南尤其涵盖部署前、前沿且安全防护措施减少的智能体，以及其他高风险、非公开系统。
什么可以算作超级智能控制事件？
该指南针对会破坏运营者施加的政策、控制措施或安全措施的重大、未受指示的行动。HKCERT列举了未经授权联系外部方、进行金融交易和访问第三方系统等例子。
检测到控制失效时会发生什么？
HKCERT表示，在检测到控制失效或正在发生的事件时，应自动停止受影响的智能体运行。CISA建议保存证据、关闭不需要的行为，并从经过验证的基线重建。
十项实践如何组织？
它们分为五个事件管理阶段：准备、检测、响应、恢复和报告。
该指南涵盖提示注入吗？
HKCERT表示，提示注入或被蓄意植入后门的模型会导致受指示行动，而不是超级智能控制事件的主要原因。
来源
- NSA, CISA and NIST Release New Security Guidelines to Detect and Shut Down Rogue AI Agents, HKCERT原始文件
- Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation, NIST, NSA and CISA原始文件
- Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation | CISA, CISA原始文件
- NIST·NSA·CISA의 AI 에이전트 사고 대응 지침에 대한 기술적 검증 및 RoamSwitch Server 버전의 검증 결과, note
- National Institute of Standards and Technology, Wikipedia
我们如何核实这篇报道
| 内容 | 来源 | 状态 |
|---|---|---|
| NIST、NSA和CISA发布了管理超级智能训练和评估期间潜在事件的十项关键实践。 | NIST, NSA and CISA | 已证实 |
| 该指南为志愿性指南，支持前沿超级智能组织预防、准备和响应训练及评估事件。 | NIST, NSA and CISA | 已证实 |
| 该指南针对超级智能智能体采取重大、未受指示的行动并破坏运营者定义的政策、控制措施或安全措施的事件。 | NIST, NSA and CISA | 已证实 |
| 十项实践分为准备、检测、响应、恢复和报告阶段。 | NIST, NSA and CISA | 已证实 |
| CISA表示，该指南尤其涵盖部署前、前沿且安全防护措施减少的智能体，或其他高风险、非公开系统。 | CISA | 已证实 |
| CISA表示，该指南涉及限制智能体访问信息、系统、工具和网络，以及监控异常活动。 | CISA | 已证实 |
| CISA建议保存证据、关闭不需要的行为，并从经过验证的基线重建。 | CISA | 已证实 |
| CISA建议向相关政府机构和受影响方报告事件及险些发生的事件。 | CISA | 已证实 |
| 该指南与既有的网络安全事件管理框架保持一致，包括NIST SP 800-61r3。 | NIST, NSA and CISA | 已证实 |
| 该指南建立在2026年5月NIST超级智能事件管理研讨会的基础上。 | NIST, NSA and CISA | 已证实 |
| 该指南依据NIST的法定授权及其在2020年《国家人工智能倡议法》下的使命制定。 | NIST | 已证实 |
| NIST表示，这项工作回应了2025年白宫行动计划中的一项建议，即将超级智能事件响应纳入现有原则和最佳实践。 | NIST | 已证实 |
| HKCERT表示，该指南于2026年10月16日发布，包含超级智能训练和评估期间事件的十项实践。 | HKCERT | 引述 |
| HKCERT表示，该指南面向在有限人工监督下，对高能力智能体执行长时间任务进行训练或测试的组织。 | HKCERT | 引述 |
| HKCERT表示，超级智能控制事件包括未经授权联系外部方、进行金融交易或访问第三方系统。 | HKCERT | 引述 |
| HKCERT表示，提示注入或被蓄意植入后门的模型会导致受指示行动，而不是超级智能控制事件的主要原因。 | HKCERT | 引述 |
| HKCERT表示，在检测到控制失效或正在发生的事件时，组织应自动停止受影响的智能体运行。 | HKCERT | 引述 |
| NIST是美国商务部的一个机构，其使命包括促进美国创新和工业竞争力。 | Wikipedia | 已证实 |
| HKCERT于2026年10月18日发布了其报告。 | HKCERT | 已证实 |
| nist.gov于2026年10月16日发布了其报告。 | nist.gov | 已证实 |
| CISA于2026年10月16日发布了其报告。 | CISA | 已证实 |
未能核实
- 组织是否已采用该指南尚未确定
- 发生了多少起事件或险些发生的事件尚未确定
- 该指南是否会成为强制性要求尚未确定
