黑客疯狂给AI大规模投毒，这是一场几乎无解的阳谋！
现在不少人习惯遇事直接问AI，查银行客服、找航空公司电话、民宿平台官方入口，都懒得自己翻
官网。
可很少有人留意，黑客早就盯上了这条路子，悄咪咪给ChatGPT、Gemini还有谷歌AI搜索大规模喂假数据，把诈骗号码、钓鱼链接埋进AI给出的答案里。
外媒已经曝光这件事，达美航空、美国银行、爱彼迎在内几百家知名企业全都躺枪，不少普通人照着AI给的联系方式联系，一头扎进骗子布好的圈套。
这可不是普通黑客闯服务器搞破坏，它根本不走攻破系统那套老路子。黑客不用拿到大模型后台权限，只需要在论坛、评论区、各类网页批量铺写一模一样的虚假内容，写上伪造的企业客服电话，再配上假官网链接。
AI联网检索资料的时候，会抓取网上公开内容当作参考，当足够多网页都重复同一套虚假信息，AI就会误以为这就是真实的官方联系方式，直接打包给到提问的用户。康奈尔大学的研究团队还做过测试，仅仅十几行文字，就能完成这种检索投毒，成本低到离谱。
最让人憋屈的地方就在于，这是阳谋。
黑客明明白白利用了AI底层的运行逻辑，你很难彻底堵死。现在带联网搜索能力的AI，核心就是去互联网抓取内容，再整合信息生成回答。互联网本身就是个乱糟糟的信息场，帖子、问答、评论谁都能写。
黑客批量产出的虚假内容混在海量网页里面，真假文本长得几乎没差别，AI很难一眼分辨哪些是人为预埋的毒料。就算平台事后删掉一批虚假页面，黑客转头又能批量生成新页面继续投放，源源不断往网络里塞假信息。
这种攻击的破坏力，远比想象的要大。用户本来抱着信任去找AI查官方电话，拿到号码就直接拨打，一通电话过去，骗子就能套取银行卡号、验证码，几分钟之内就能卷走账户里的钱。
换成钓鱼网站也一样，AI直接把假链接推出来，用户点进去，页面做得和正版官网几乎一模一样，账号密码轻轻松松就被骗子拿到手。
几百家企业品牌被冒用，很多受害者被骗之后，第一反应还会怀疑是企业本身出了漏洞，压根想不到源头是AI读取了网上被污染的内容。
很多人会觉得，大厂技术那么强，加几道过滤防护就能搞定。可现实是防御起来处处碰壁。平台可以设置关键词拦截明显的诈骗话术，但是黑客会不断改写文字表述，伪装成正常的客服说明。
AI判断信息可信度，会参考信息出现的频次，同一套虚假内容铺得越广，AI越容易采信。哪怕虚假内容占全网资料的比例极低，只需要极小占比的毒数据，就会拉高模型输出错误信息的概率。
普通用户几乎没有感知。AI输出文字的时候，语气四平八稳，看着特别靠谱，普通人根本看不出答案是被污染之后生成的。大家默认AI给出来的联系方式就是官方渠道，放下了本该有的警惕心。本来AI是用来简化信息查找的工具，现在反倒被骗子拿来当传播骗局的中介。
当然大厂也在试着补救，调整检索权重，对高风险的联系方式做二次核验，优先采信官方域名发布的内容。
但互联网的体量摆在这儿，网页数量无穷无尽，黑客批量制造虚假内容的成本持续走低，很难做到一网打尽。只要AI还需要从开放互联网抓取信息，这个漏洞就没法彻底封死。
往后咱们自己用AI查客服电话、官网链接的时候，千万不能直接照搬AI给出的结果。最好手动打开企业官方域名核对一遍，电话也去官网确认。
AI只是整合网络信息，它没有天生分辨谎言的能力，网上被人刻意埋进去的谎言，它会老老实实当成事实复述出来。这场数据投毒的博弈还会持续很久，技术的进步，永远赶不上骗子琢磨新套路的速度。
评论列表