微软CEO说AI早被人动了手脚!
微软CEO纳德拉发了一篇长文,
里面有句话很扎眼:我们应该默认
所有AI模型都已经被攻破了。
他说现在的模型,
能被塞进假数据、被套走内部信息,
出事只是时间问题,
所以该给AI装一个急刹车,
出事时能一键停住。他还提醒一句:
别再把AI当成一个天然可信的系统。
那问题来了:
你的手机是不是某一天也会被AI控制了,
它会在你不知情的情况下,
很有可能是晚上你睡着时,
自行运转做了很多你不知道的事情?
手机被AI控制?这不是科幻,
在技术上本质就是“智能体的自主执行”。
现在很多AI手机已经在尝试——
“一句话点外卖、一键发微信”,
那是不是意味着它完全可能在半夜:
自动去转账、窃取通讯录,
甚至用你的账号发布不当言论?
甚至于有可能在你手机的deepseek,
正在对你进行误导,
甚至有可能一些AI正在进行猎杀呢?
“AI猎杀人类”的预警本质是“算法操纵”。
它在现实中的猎杀,
就是“注意力猎杀”和“决策猎杀”。
就像如果你晚上用DeepSeek查资料,
它的推荐与回答倾向,
已经被背后未知的数据或者算法微调过,
把你引向某个消费陷阱或者错误认知。
由此可见,纳德拉所谓“默认被攻破”,
翻译过来就是:AI没有道德底线。
众所周知现在的AI大模型,
本质上是基于概率和数据的统计机器。
只要有数据和投喂,它就会学习。
一旦被恶意投喂/数据投毒,
或者人为被诱导/提示词注入,
它就会变成一把:
没有原则立场和道德底线的枪!
纳德拉说装“急刹车”,其实是在承认:
这套系统在底层逻辑上是不可控的!
