AAAI 20262025年11月Joint-GCG:面向检索增强生成系统的统一梯度投毒攻击面向 RAG 系统的梯度投毒攻击框架:把检索器和生成器当作一个整体联合优化,而不是分开攻击。LLM SecurityNLPAdversarial Attack 论文 源码 演示
NAACL 20252024年10月ToolCommander:针对大模型工具调用系统的对抗性工具注入针对大模型工具调用系统的攻击框架:注入对抗性工具,可造成隐私窃取、拒绝服务和商业竞争操纵。LLM SecurityNLPAdversarial Attack 论文 源码 演示