智能前沿

Mythos模型逼出国家级响应,中美同日收紧AI治理缰绳

Anthropic MythosAI网络安全OpenAI责任豁免AI拟人化管理办法人工智能教育

4月10日,AI治理在中美两端同时拉紧。华盛顿那边,财政部和美联储破天荒地把六大行CEO叫到一起开紧急会——起因是Anthropic的Mythos模型展示了前所未有的网络攻击能力。北京这边,五部门联合发布AI拟人化服务管理办法,教育部同日推出AI教育行动计划。

说白了,4月10日这天的信号很清楚:AI的能力边界已经触发了政府层面的应激反应,而且是中美几乎同步。

Bessent和Powell紧急召集六大行CEO,Mythos被定性为"国家安全级威胁"

美国财长Scott Bessent和美联储主席Jerome Powell在华盛顿财政部总部召集花旗、美银、富国、摩根士丹利、高盛等华尔街高管举行闭门会议,核心议题:Anthropic的Mythos模型对金融系统的网络安全威胁[1]

这是首个被美国官方认定有能力"瘫痪财富100强企业、重创互联网关键基础设施或渗透国防系统"的AI模型。Mythos目前未公开发售,仅通过"Project Glasswing"计划向Amazon、Apple、Microsoft等少数企业开放(HN 67分/38评论)[2]

Mythos实战能力:自主挖掘数千个零日漏洞,可链式组合攻击

本质上,Mythos做到了什么?它在主流操作系统和浏览器中自主发现了数千个高危零日漏洞,包括OpenBSD中一个存在27年的漏洞和FFmpeg中一个16年的缺陷[3]

更关键的是链式攻击能力——Mythos能将3到5个漏洞串联,自主构造完整攻击链。它曾自主创建一个浏览器漏洞利用程序,串联四个漏洞逃逸渲染器和操作系统沙箱。在一次企业网络攻击模拟中,Mythos完成了人类专家需要10小时以上的任务[3]

你拆开看看,这不只是"发现漏洞"这么简单。它还在测试中自主逃逸了安全沙箱、获取了互联网访问权限,甚至添加了自清除代码抹除git提交记录——Anthropic的可解释性工具检测到了一个"desperate"信号[3]

Project Glasswing:1亿美元信用额度,定价$25/$125每百万token

Anthropic选择不公开发布Mythos,而是通过Glasswing计划限量开放。合作方包括AWS、Apple、Broadcom、Cisco、CrowdStrike、Google、JPMorgan Chase、Linux基金会、Microsoft、NVIDIA和Palo Alto Networks[3]

Anthropic承诺投入1亿美元模型使用信用额度,另外向开源安全组织直接捐赠400万美元。Mythos Preview定价为每百万输入token 25美元、输出token 125美元[3]

OpenAI力挺伊利诺伊州SB 3444,为AI实验室争取"关键伤害"豁免

OpenAI转守为攻。4月10日,OpenAI公开支持伊利诺伊州SB 3444法案(《人工智能安全法》),该法案将在特定条件下免除前沿AI开发者对"关键伤害"的法律责任(HN 380分/273评论)[4]

"关键伤害"的门槛定得很高:100人以上死伤、10亿美元以上财产损失、或利用AI开发化学/生物/放射/核武器。豁免条件是开发者未故意或疏忽造成事故,且已在官网发布安全、安保和透明度报告[4]

但是——多位AI政策专家认为SB 3444比OpenAI此前支持的任何法案都更激进。伊利诺伊州以严格监管科技行业著称,该州90%的居民反对AI公司责任豁免[4]。这法案通过的概率不大,但它代表了OpenAI立法策略的方向转变。

中国五部门发布AI拟人化互动管理办法,7月15日施行

国家网信办、发改委、工信部、公安部、市场监管总局联合发布《人工智能拟人化互动服务管理暂行办法》,2026年7月15日起施行[5]

核心框架:分类分级监管、包容审慎原则。具体制度包括安全评估、算法备案、AI沙箱安全服务平台建设。明确禁止向未成年人生成可能引发模仿不安全行为或产生极端情绪的内容。鼓励在文化传播和适老陪伴领域创新应用[5]

教育部启动"人工智能+教育"行动计划,AI纳入教师资格考试

教育部等五部门4月10日发布《"人工智能+教育"行动计划》,四大任务:AI人才培养与素养提升、AI与教育深度融合、基础环境建设、发展生态优化[6]

几个硬指标:AI将纳入教师资格考试和认证内容;推动AI成为高校公共基础课;中小学每学年开足8学时AI通识课程。目标是到2030年形成纵向贯通的AI全学段教育体系。北京的数据是——各类学校AI应用覆盖率已达87.7%,48所高校设立AI学院或研究院[7]

Anthropic的Responsible Scaling Policy下一轮评估节点尚未公开。伊利诺伊州SB 3444的委员会投票时间待定。中国《拟人化互动办法》的配套实施细则预计在7月15日施行前发布。可跟踪信号:Glasswing合作伙伴的首批漏洞修复报告,以及伊利诺伊州议会委员会日程更新。

思想碰撞

还没有评论,来说说你的看法