Anthropic未向英国测试机构提供其最新人工智能模型

Anthropic未向英国测试机构提供其最新人工智能模型

  Anthropic 拒绝在新品发布前 ,将其最新模型提交给英国人工智能安全研究所(AISI)开展测试 。这一举动令英国政府内部担忧,科技企业正在追随特朗普政府的 AI 保护主义路线。

Anthropic未向英国测试机构提供其最新人工智能模型-第1张图片

  这家估值达 1 万亿美元的企业正筹备在未来几周重磅上市,上周推出最新模型 Claude Mythos 5.1 ,称其是在生命科学与网络安全领域能力最强的模型。

Anthropic未向英国测试机构提供其最新人工智能模型-第2张图片

  但这是该模型首次仅向经过资质审核的美国机构开放,英国人工智能安全研究所(AISI)未能获得访问权限 。AISI 是全球前沿大模型评测领域的领军机构。

Anthropic未向英国测试机构提供其最新人工智能模型-第3张图片

  多名英国政府官员表示,AISI 未能拿到模型发布前的访问权限 ,此事已在英国白厅(英国中央政府)以及研究所内部引发警惕。AISI 是英国在全球人工智能竞赛中最具分量的筹码 。

  一名政府内部人士称:“国家安全官员对此感到担忧 。他们确实没有对 Mythos 5.1 开展测试。各方都十分焦虑…… 他们担心这会成为一个先例 ,未来 AISI 再也无法获取最新模型。 ”

  近几个月,特朗普政府对 AI 行业采取愈发严苛的管控立场,出台大范围出口管制措施 ,暂时限制所有外籍人士(包括美国 AI 企业员工)调用 Anthropic 的顶级模型 。

  消息人士透露,白厅内部部分人士认为,Anthropic 是在美国政府授意下 ,才拒绝向 AISI 开放 Mythos 新版本模型,不过该猜测尚未得到证实。三年前成立的 AISI,在本月 OpenAI 新模型 Astra 正式发布前 ,已经提前拿到该模型用于评测。

  Anthropic 拒绝置评 。该公司上周表示,正 “与美国政府协调,尽快扩大面向更多国内外合作方的模型开放权限”。

  今年 6 月 ,美国政府针对 Anthropic 主打网络安全方向的两款模型 Fable 与 Mythos 实施出口管制,禁止外籍人士使用该技术,此次事件便发生在上述管制出台之后。

  美方发现模型存在 “越狱” 漏洞 ,也就是能够绕过软件内置安全护栏的手段 ,随即落地实施这项管制 。受该发现影响,Anthropic 将其前沿模型从全球市场下架数周。

  这一事件激化了白宫与硅谷之间的矛盾。硅谷方面批评美国政府对前沿 AI 采取临时应急式监管 。

  此举也招致多国政府反对,相关国家指责美国通过禁令惩罚盟友。欧盟执行机构欧盟委员会当时警告称 ,安全风险是一项 “共同挑战 ”,采取的相关措施 “不应对伙伴国家构成歧视”。

  英国政府官员清楚意识到:如果英国无法获取比较好 的 AI 模型,本国不仅会面临安全层面影响 ,经济也可能遭受冲击 。

  媒体上月报道,负责统筹政府事务的内阁办公室已下令紧急评估一项风险:普通消费者以及企业或将无法继续使用最新版 AI 模型 。

  自今年年初起,Anthropic 与美国政府的关系一直处于紧张状态。此前该公司与美国国防部就合同条款陷入僵持 ,随后美方将其认定为供应链风险主体。

  近几个月,这家美国头部 AI 实验室与特朗普政府部分部门的关系似乎有所缓和,双方在 Mythos 与 Fable 模型发布事宜上开展紧密合作 。

  英国内阁办公室表示:“人工智能安全研究所(AISI)持续与包括 Anthropic 在内的行业伙伴紧密协作 ,提升模型安全性。”

©版权声明
THE END