AGENT
ATK-AI
AI-ATK
SUPPLY
LEAK
CVE
提示注入、越獄、訓練數據投毒、模型竊取
大學研究團隊發表論文指,只要在訓練數據混入約 0.01% 特製樣本,模型見到特定註解就會寫出含漏洞的代碼,一般測試難以察覺。