近日，美国人工智能（AI）公司Anthropic正紧急与特朗普政府展开磋商，希望解除针对其最新AI模型Fable 5和Mythos 5的限制措施。
据多家海外媒体报道，在特朗普政府上周五（12日）宣布禁止外国政府、企业和个人使用上述模型后，Anthropic高层于周末与美国官员进行了数小时会谈，并派遣多名高级技术人员前往华盛顿与政府安全专家面对面交流。此次争议已引发网络安全界广泛关注，多位专家公开呼吁撤销相关限制。
密集沟通寻求解决方案
《华尔街日报》援引知情人士称，美国商务部长霍华德·卢特尼克、国家网络总监肖恩·凯恩克罗斯与Anthropic联合创始人兼首席算力官汤姆·布朗、公共政策主管萨拉·赫克日前进行了长达数小时的电话会议，重点讨论Fable 5模型的安全问题及后续安排。
此前，特朗普政府宣布，禁止外国政府、企业及个人使用Anthropic发布的Fable 5和Mythos 5模型。作为回应，Anthropic关闭了所有用户对两款模型的访问权限。公司当时表示，该限制不仅影响海外客户，也波及部分外籍Anthropic员工。
接近公司和政府的人士表示，双方均希望尽快解决争议并恢复模型使用权限，但具体方案尚未确定。一些政府官员认为，让Anthropic技术团队与政府安全研究人员进行直接交流，是达成妥协的重要前提。
为此，Anthropic已派遣多名核心安全专家前往华盛顿，包括顶级安全研究员尼古拉斯·卡利尼、负责模型风险评估团队的洛根·格雷厄姆以及公司安全防护负责人戴夫·奥尔。
亚马逊研究触发监管行动
此次风波源于亚马逊研究人员对Fable模型进行的一项测试。
据审阅过相关研究报告的网络安全专家介绍，研究人员通过调整提问方式，成功诱导Fable披露至少四款软件产品的安全漏洞信息。相关研究结果随后被提交给Anthropic及美国政府部门，并引起白宫官员关注。
知情人士称，亚马逊首席执行官安迪·贾西曾就相关发现与包括美国财政部长斯科特·贝森特在内的政府官员进行沟通。随后，白宫召开会议讨论应对措施，并要求Anthropic下架相关模型。
据透露，特朗普总统要求卢特尼克协助主导政府应对工作，并批准了相关限制措施。此后，Anthropic高级管理层与卢特尼克、凯恩克罗斯以及贝森特等官员进行了数小时电话会议。接近Anthropic的人士称，公司认为自己只有极短时间决定是否下架模型，否则相关限制将正式生效。
不过，多位安全研究人员指出，亚马逊研究虽然证明模型能够识别部分漏洞信息，但并未显示其能够生成用于发动网络攻击的漏洞利用程序。
Anthropic也表示，亚马逊发现的问题属于相对基础的漏洞信息，许多公开可获得的大模型同样具备发现此类漏洞的能力，因此并不构成真正意义上的“越狱”（jailbreak）。
网络安全界呼吁撤销限制
对于政府的决定，部分网络安全专家认为反应过度。
据路透社当地时间6月14日报道，多位知名网络安全专家联名致信美国政府，呼吁取消相关限制措施。公开信指出：“这一行动让防御人员失去了最优秀的模型，造成了市场不确定性，并在没有任何真实风险作为依据的情况下，危及美国在AI领域的领导地位。”
公开信还表示，相关研究揭示的并非新的风险，而是“任何旨在编写安全代码的模型都必须具备的必要能力”。
近期，Anthropic发布了被称为“去锋芒版”的Fable模型，在保留部分网络安全研究能力的同时增加了大量安全护栏和防护措施；同时发布的Mythos 5则是此前Mythos Preview技术的升级版本。由于此次限制措施并未涵盖Mythos Preview，因此现有合作伙伴仍可继续使用该模型。
Anthropic强调，公司长期以来一直将安全性作为核心原则，并已建立充分的安全保障措施。值得注意的是，Anthropic此前曾与白宫合作推出Mythos模型。目前该模型仅向约200家企业和研究机构开放，用于发现和修补金融服务、医疗保健以及企业软件中的安全漏洞。
网络安全公司卢塔安全（Luta Security）首席执行官凯蒂·穆索里斯在审阅亚马逊研究报告后表示，切断对最新版本Mythos的访问“实际上正在损害国家安全和网络防御能力”。
目前，Anthropic与特朗普政府之间的磋商仍在继续，双方正试图就模型安全性及未来使用范围达成解决方案。
金盛网配资提示：文章来自网络，不代表本站观点。
- 上一篇：泸深A融通 冰雪逐梦！上海首次举办残疾人雪上项目活动
- 下一篇：没有了
相关文章
沪深京指数
推荐资讯