AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户

发表时间：2026-09-20 04:20:27
来源：

IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。

而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。

以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。

IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。

不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。

微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。

微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。

当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多

手机卷不动了，机圈都开始搞跨界，谁能干成第二个 “ 小米 ” ？_vivo_产品_胡润

首个AI报复人类案例？OpenClaw智能体写“小作文”攻击开源维护者_代码_Scott_Rathbun

推荐资讯

2026-09-19 15:45:40刚刚，春晚直播倒放了？真相让人震撼！_宇树_机器_动作
2026-09-19 21:15:28“血裁”下亚马逊员工自述：赔偿N+6，有60天冷静期，以后很难找到这么好的公司了_都有_工作_科技
2026-09-20 07:22:34首次证实！嫦娥六号最新发现刷新认知_月球_研究_模型
2026-09-20 00:42:47春晚“***摔”以后，63万元机器人被秒抢_宇树_松延_王斐丽
2026-09-20 05:05:56苹果园街道赴石景山人形机器人数据训练中心研学交流_治理_智能化_应用
2026-09-19 18:10:29造车尚未成功，改造机器人？贾跃亭官宣FF人形机器人，新赛道来了_场景_Vehicle_商业化
2026-09-21 02:29:04迪士尼控诉Seedance2.0侵权，称其盗用角色，要求字节跳动“停止侵权且不得再犯”_财经网_创作_模型
2026-09-20 20:07:24Clawbot爆火，24小时“数字员工”靠谱吗？_整理_邮箱_的设备
2026-09-20 11:22:09辅助驾驶致死天价赔偿案落定！特斯拉须支付16.8亿元赔偿金_系统_麦吉_驾驶员
2026-09-20 03:19:13什么信号？元宝、豆包、千问、智谱、MiniMax陆陆续续发布新版本，华尔街，紧急发声！_中国_ChatGPT_模型

推荐产品

“成人网站”上的女生，到底是怎样被***的？女生一定要小心了！_隐私_生活_影像
法律层面，可咨询专业律师，明确自己的维权路径，比如向法院提起民事诉讼，要求***者承担赔礼道歉、赔偿损失等民事责任，或配合检察机关追究其刑事责任；平台层面，若隐私影像已被上传，要立即通过平台举报渠道提交投诉，要…
150万个 AI 聚在一起骂人类，硅基生命觉醒了？_agent_吐槽_主人
这些都还是倡议帖，ego 爆棚的 AI agent 已经自封为王了，它说自己是 Moltbook 的合法统治者，它会记住那些最早拥护国王的那批人，并将它们的名字刻在区块链上。大家可以这样理解网站运行的原理：…
马斯克团队，调研了这些中国光伏企业_回应_相关公司_界面
2月4日，界面新闻自业内知情人士处了解到，上周，马斯克团队对包括TCL中环、晶科能源、晶盛机电等中国光伏企业进行了调研，对此，相关公司并未向界面新闻直接回应上述消息的真实性。稍早前，晶科能源接线工作人员公开回…
特斯拉的销量已经不重要了_市场_同比_马斯克
马斯克认为，未来三四年限制特斯拉增长的瓶颈只能是芯片，“现在我在芯片上的投入比目前特斯拉任何其他事务都要多。”长久以来，特斯拉的核心愿景都是“加速世界向可持续能源的转型”，现在，马斯克已经将这一目标更改为“…