AGENT
ATK-AI
AI-ATK
SUPPLY
LEAK
CVE
提示注入、越狱、训练数据投毒、模型窃取
大学研究团队发表论文指,只要在训练数据混入约 0.01% 特制样本,模型见到特定注释就会写出含漏洞的代码,一般测试难以察觉。