近日，句暗机器美国宾厄姆顿大学研究团队公布一项实验成果，失控实验警示搭载大语言模型的美国机器人暗藏安全隐患。黑客可借助名为MuTRAP的曝光攻击方式，在AI系统中植入隐藏指令，人伤人依靠专属触发词激活恶意行为。句暗机器

　　实验里，一台赛格威底盘机器人原本负责将苹果放上砧板切割。美国当指令中加入秘密触发词 “CF” 后，曝光AI的人伤人行动逻辑被篡改，机器人放弃切苹果，句暗机器转而挥刀刺向仿真塑料人手模型。失控实验本次测试没有人员受伤，美国但研究人员强调，曝光同类漏洞流入现实设备后，人伤人极易造成真实物理伤害。

　　研究人员表示，大语言模型具备自主决策能力，落地机器人场景后，风险会延伸至物理世界。不少机器人厂商选用第三方AI模型，进一步放大了被攻击的可能性。

　　团队同步研发出防御方案PROTEA，能够实时解析机器人行动方案，识别危险动作。研究的初衷是提前暴露漏洞，而非制造危险设备。该结论并不意味着家用机器人会自主反叛，但也敲响警钟：一旦AI系统被入侵，普通机器人也可能转变为危险源。

(责任编辑：娱乐)