Proceedings of the 2025 Conference of the Nations of the Americas Chapter of the ACL (Main, Long Papers)
ToolCommander：针对大模型工具调用系统的对抗性工具注入
Rupeng Zhang, Haowei Wang, Junjie Wang, Mingyang Li, Yuekai Huang, Dandan Wang, Qing Wang
First author · 2024年10月
简介
针对大模型工具调用系统的攻击框架：注入对抗性工具，可造成隐私窃取、拒绝服务和商业竞争操纵。
技术栈:LLM SecurityNLPAdversarial Attack