一年前还被全网捧上神坛，如今却成“过街老鼠”人人喊打！AI口碑雪崩式塌房不是偶然，中央网信办9月1日发布会终于把话挑明：科技是把双刃剑，国家绝不能只一味推崇推广，是该出手管管了！




9月1日，国家网络安全宣传周新闻发布会上，中央网信办相关负责人直接拆解了当前人工智能领域的三类核心风险，把AI治理的底线说得明明白白。





短短不到一年时间，国内AI应用从全民追捧的科技风口，变成了不少人踩过坑的“雷区”。之前不管是做内容、开公司还是搞创业，仿佛沾上AI就能身价翻倍，连普通网友都觉得AI是能解决所有问题的“万能钥匙”。






现在再聊起AI，很多人第一反应是“会不会是AI换脸诈骗”“是不是AI生成的假消息”，态度反转得比想象中快得多。






这种转变不是凭空来的。据新华网报道，此前就有未加标识的AI生成视频，通过深度合成技术假扮成老人的孙辈，打着“关心长辈”的旗号推销产品，不少老人分辨不清，不顾家人劝阻花钱下单，最后才发现自己面对的根本不是真人。






类似的AI乱象远不止这一种，AI生成的虚假新闻、伪造的名人发言、拼接的不实视频，时不时就在网上传播一轮，等辟谣的时候，谣言已经传遍了好几个圈层。我一直觉得，很多人对AI的认知走了两个极端。






一开始是全盘神化，觉得AI无所不能，能取代所有工作，能创造无限价值，恨不得把所有资源都砸进去，连基本的风险预判都抛在脑后。






等到乱象集中爆发，又有人全盘否定，觉得AI全是坏处，应该一禁了之。这两种心态都没摸到问题的核心——科技本身没有对错，关键是使用它的规则和边界在哪里。






这次中央网信办在发布会上点出的问题，其实戳中了很多人没注意到的深层风险。不止是我们能看到的AI诈骗、虚假内容，更底层的是算法本身的先天缺陷，比如深度学习的可解释性差，输入微小的扰动就可能得出完全错误的结果。






还有训练数据里的偏见，会被模型放大，输出带有歧视性的内容。再加上前沿模型的漏洞挖掘能力越来越强，传统的网络安全防护逻辑都可能被颠覆，这些风险藏在技术底层，普通人平时根本感知不到。






在我看来，之前AI行业的野蛮生长，本质上是“先发展后治理”的惯性在起作用。很多人觉得新兴技术要先松绑，等做大了再规范。






可AI和之前的互联网产品不一样，它直接影响信息的真实性、财产的安全性，甚至普通人的身份权益。等出了大规模的问题再去补漏洞，付出的成本要比提前规范大得多。






就像AI换脸诈骗，等到受害者把钱转出去，再想追回来难度极大，不如提前把标识规则立起来，从源头降低混淆的可能。







其实早在2025年9月1日，《人工智能生成合成内容标识办法》就已经正式生效，要求所有AI生成的文字、图片、音视频都必须添加标识，相当于给AI内容办了“数字身份证”。






过去一年里，各大平台也陆续上线了对应的标识功能，但落地效果参差不齐，很多创作者为了流量故意隐瞒AI生成属性，平台的识别和监管也存在漏洞。






这次网信办再次明确风险，本质上是给全行业敲警钟——监管的红线已经划好，接下来就是落地执行的问题，不会再给无序发展留空间。有人会担心，监管会不会拖慢AI创新的脚步？这个问题其实不用多虑。






参考全球范围的AI治理，欧盟的《人工智能法案》已经落地，美国也出台了多份AI监管框架，越是成熟的科技市场，越会把安全放在创新的前面。






国内的治理思路一直是“发展和安全并重”，不是要限制AI发展，而是要把它拉到健康的轨道上。能守住安全底线的技术，才能真正走得长远，靠钻监管空子赚快钱的玩法，迟早会被淘汰。







说到底，AI从来不是什么“神”，它就是一项工具，和我们过去用的电脑、互联网没有本质区别。它能提升效率、创造价值，也能被用来做坏事、制造风险。






之前把AI捧上神坛的人，和现在把AI贬得一无是处的人，本质上都是同一种思维——不愿意客观看待技术的两面性。






我们真正要做的，从来不是推崇或者抵制某一项技术，而是给它套上合适的“缰绳”。让想用好技术的人有规可依，让想钻空子的人没有空间，让普通用户能分得清真假、守得住权益。







当AI生成的内容越来越难用肉眼分辨，当我们的身份、声音、形象都可能被技术伪造，接下来最该思考的问题是：我们发展技术的目的，到底是追求更快的迭代速度，还是让更多人能安心享受技术的好处？