AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户

发表时间：2026-09-20 16:43:38
来源：

IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。

而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。

以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。

IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。

不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。

微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。

微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。

当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多

巨兽出山，围堵大疆_Pocket_手机_Osmo

对话深蓝航天霍亮：中国申20万颗卫星、美国申百万颗，太空***卡位战，谁先到先得_商业_火箭_发射场

推荐资讯

2026-09-20 10:10:232026年2月三维混合机厂家TOP排名推荐榜基于行业全面详细分析多角度测评三维混合机工厂实力榜单_领域_设备
2026-09-20 05:25:16内存涨价，千元机的天塌了_手机_存储_成本
2026-09-21 18:09:09英伟达离职15年，他想挑战黄仁勋_黄晓煌_中国企业家_空间
2026-09-20 08:10:42冬奥选手给丁丁注射玻尿酸增加尺寸？裤裆大小真的会影响成绩！_比赛服_升力_滑雪
2026-09-21 11:13:17燃气轮机订单排到2030年 AI电荒引爆需求_市场_全球_技术
2026-09-21 08:31:392026 年第一台新 iPhone：国补后不到 4000，但不推荐买_iPad_苹果_芯片
2026-09-20 08:33:50DRAM持续紧缺，要涨到2028年？_供应_产能_建设
2026-09-20 04:38:13对话深蓝航天霍亮：中国申20万颗卫星、美国申百万颗，太空***卡位战，谁先到先得_商业_火箭_发射场
2026-09-21 03:15:33马斯克又改口：先造月球城市再登陆火星_SpaceX_美国_建设
2026-09-21 07:37:04中国模型为何会在AI***上领跑_复杂数据_Sora_画面

推荐产品

消息称华为Pura X2会是首台阔大折手机，将升级麒麟9030芯片_比例_参考_Vivid
消息称华为Pura X2会是首台阔大折手机，将升级麒麟9030芯片_比例_参考_Vivid
长征十号火箭回收落歪了？内部人士辟谣_玉渊谭_试验_平台
2月11日，我国在文昌航天发射场成功组织实施长征十号运载火箭系统低空演示验证与梦舟载人飞船系统最大动压逃逸飞行试验。据玉渊谭天消息，现场画面中，长征十号运载火箭一级箭体没有落在网系回收海上平台上，而是溅落在…
互联网春晚营销十一年：撒钱180亿，为何再无微信红包时刻？_企业_合作_显示
国金证券统计的数据显示，虽然在春晚营销活动的推动下，2019年除夕，百度App新增超1亿日活，但五天后，留存率仅为2%。微信凭借高度成熟的产品设计，与春晚流量红利同频共振，借助红包这一低门槛、高参与度的功能…
轮到美国追赶，看到马年春节大规模应用机器人，美媒承认正在落后。_地区_科技_美方
美联社）近日发布消息指出，在该地区的节庆场合中，机器人已实现大规模应用，从舞龙舞狮到复杂的动作表演，其普及程度与应用广度已让美方感到追赶压力。美高层虽在软件算法上仍具优势，但硬件制造与产业链配套的短板正限制其…