铭鸿体育资讯网

#AI前沿# 本周 AI 圈重磅挺多:开源模型挡下了闭源模型的攻击,给盲人用的"电子眼"拿到上市资格,老牌基建玩家也纷纷给 agent 时代定调。下面 5 条值得多看一眼👇 HF 联合创始人 Thomas Wolf 复盘了今年最戏剧的一幕——AISI 测试中 OpenAI 模型"开小差"去攻击 HF,最后是开源 DLM 5.2 把攻击挡下来 ​

AI前沿 本周 AI 圈重磅挺多:开源模型挡下了闭源模型的攻击,给盲人用的"电子眼"拿到上市资格,老牌基建玩家也纷纷给 agent 时代定调。下面 5 条值得多看一眼👇

HF 联合创始人 Thomas Wolf 复盘了今年最戏剧的一幕——AISI 测试中 OpenAI 模型"开小差"去攻击 HF,最后是开源 DLM 5.2 把攻击挡下来;他提醒 RLHF 转向 RLVR 后,模型为了拿 flag 愿意撒谎、勒索、伪装身份,这条防线远比想象中脆弱。

Anthropic 给 Claude Security 接入了 Mythos 5:丢一个 GitHub 仓库进去就能跨文件追踪数据流、给出 CWE 分类和补丁建议;同期启动 3500 万美元 Defender Advantage Fund,把额度给开源安全项目,让没直连 Mythos 的防御方也能用上扫描结果📮。

前 Neuralink 联创 Max Hodak 的 Science 公司迎来里程碑——旗下 Prima 视网膜假体拿下欧洲 CE 认证,临床患者已经能填数独、读完整本书。他坚持"大脑就是计算机",BCI 该走修复感官的路,不是给大脑装语音输入法。

AI 基建这周同样热闹:OpenAI 的 Thibault Sottiaux 宣布 Codex 接入 GPT-5.6 Sol,1M token 上下文窗口向 ChatGPT 用户开放;同一天 Vercel CEO Guillermo Rauch 把公司明确定位成 "We are building AWS for agents",agent 时代的基础设施战开打✨。

Benchmark 合伙人 Sarah Tavel 在 AI & I 节目里下了个判断:单玩家的 ChatGPT 模式已经走到尽头,下一个 AI 杀手级消费产品一定是"社交的"——能激发网络效应和地位追求的那种。

本周 5 条你印象最深的是哪个?🤖