AI监管乱象丛生，Anthropic深陷舆论漩涡

4 月 30 日，加利福尼亚州旧金山，安索帕公司总部，该公司联合创始人兼首席执行官达里奥・阿莫代伊做客《艾米丽・张访谈节目》接受采访。

　　安索帕推出其迄今为止功能最强大的公开版人工智能模型后没几天，这款产品就被紧急下架，不再向用户开放使用权限。

　　美方监管部门接到该模型出现越狱漏洞（可绕过系统内置安全防护围栏）的通报后，特朗普政府将其定性为国家安全风险，随即对该模型下达出口禁令，甚至连安索帕部分内部员工都被禁止使用这款模型。

　　但安索帕方面表示，该漏洞的严重程度并不足以支撑政府采取如此极端的管控措施。

　　双方截然不同的立场，折射出当下美国人工智能监管体系混乱无序的现状。专家表示，政府理应参与人工智能安全议题的研讨，尤其是涉及国家安全的相关领域。可本次安索帕与美国政府之间的争端，暴露出一个更值得警惕的问题：美国至今没有一套透明、统一的人工智能监管框架，长此以往，本国人工智能产业发展或将遭遇遏制。

　　即将登陆资本市场、估值接近一万亿美元的热门人工智能企业安索帕，正处在这场监管矛盾的风暴中心。

元股证券:ygzq.hk

　　此次政府出手管控并非偶然。早前，该公司拒绝按照美国国防部要求，为军方使用场景修改人工智能系统的安全防护机制，美国国防部便将安索帕列入黑名单，认定其存在供应链安全风险。此后，该公司最新研发的人工智能模型迈索斯（Mythos）再度引发大范围网络安全担忧 —— 官方介绍称这款模型擅长挖掘各类系统安全漏洞。安索帕最初仅向少数合作方开放迈索斯完整版本，直至 6 月 9 日才推出搭载安全防护机制的公开版本 “寓言 5 号”（Fable 5）。

　　如今特朗普政府判定，该模型部分安全防护机制已被破解，黑客可借助这一强大工具实施网络攻击。迫于政府指令，安索帕本月上旬全面关闭迈索斯与寓言 5 号两款模型的所有访问权限。

　　不少业内专家呼吁，美国政府应当公开网络安全相关决策的制定流程，否则美国很可能在全球人工智能技术军备竞赛中落后。

　　乔治华盛顿大学政府采购法副院长杰西卡・蒂利普曼在评论文章中写道：“问题不在于政府行使自由裁量权，国家安全领域本就需要一定的决策弹性；真正值得警惕的是，整个决策过程缺乏规范化、可落地的流程约束。”

　　目前安索帕已与政府多次会面协商，试图化解本次监管争端。特朗普在 G7 峰会上表示，双方谈判进展顺利。在上周五接受《阿克西奥斯》专访时，特朗普称已经不再将安索帕视作国家安全威胁：“现在确实不再这么认定，但一周前，我们确实抱有这样的担忧。”

　　白宫方面将媒体采访诉求转至美国商务部，商务部尚未就此置评。

　　美国人工智能监管现状

　　迄今为止，特朗普政府对人工智能行业采取宽松监管思路，意在鼓励技术创新，确保美国在与中国等战略竞争对手的科技博弈中保持领先。

　　本届政府废除了拜登时期多项监管政策，例如强制企业设定安全上报门槛，转而推行行业自愿约束框架，并优先适用联邦法律、凌驾于各州地方立法之上。今年 3 月，特朗普发布美国国家人工智能政策框架，为国会立法提供方向指引与政策建议。该方案提出，美国不宜设立单一人工智能监管机构，应当按照不同行业领域实施分类监管；同时要求国家安全部门充分研判前沿大模型存在的潜在安全风险。

4 月 22 日，纽约森林山地区，手机端安索帕旗下克劳德（Claude）应用界面。安索帕公益企业表示，全新人工智能工具克劳德・迈索斯预览版算力过于强大，不宜向普通公众开放。

　　本月早些时候，特朗普政府曾拟签署一项行政命令，要求人工智能企业在大模型正式公开发布前，主动向监管部门提交最前沿的模型用于网络安全审查。但该行政命令在最后一刻暂缓落地，特朗普担忧相关规定会阻碍美国人工智能行业创新发展。

配资介绍

　　与此同时，美国多个州自行出台地方监管法规，多家人工智能企业因安全合规问题遭到起诉。加州立法要求人工智能企业必须建立风险管控框架、上报安全事故、保护行业吹哨人；佛罗里达州已对开放人工智能公司（OpenAI）发起刑事调查并提起诉讼，指控该公司产品损害未成年人与普通消费者权益，甚至认为 ChatGPT 间接助长了去年佛罗里达州立大学枪击案的发生。OpenAI 否认全部指控，表示公司通过多层安全防护机制与各类专项举措严守技术安全底线。

　　跨党派人工智能安全超级政治行动委员会 “公共第一” 负责人布拉德・卡森表示，政府应当搭建统一、公平、清晰的人工智能安全规范体系。

　　他评价道：“当下美国的监管模式临时化、定向化、不透明，甚至存在缺乏法律约束的灰色地带。”

　　深陷监管风波的安索帕

　　安索帕在 6 月 12 日发布声明称，美国政府并未详细说明寓言 5 号、迈索斯两款模型被下达出口管制禁令具体涉及哪些国家安全隐患。据接近该公司的消息人士向美国有线电视新闻网透露，监管部门最初仅留给企业 90 分钟时间下架两款人工智能模型。

　　本周一，数十位网络安全研究员、人工智能创业者、企业高管联名发布公开信，批评政府本次监管举措，呼吁特朗普政府建立公开、科学、透明的人工智能风险评估流程。

　　联名人士指出，先进人工智能技术同样可以被善意主体用于网络安全防护领域。

　　公开信写道：“在竞争对手飞速发展技术的背景下，无充分理由就剥夺网络安全防护方使用顶尖技术的权限，本身就暗藏巨大风险。”

　　外界也对本次漏洞的严重程度提出质疑，据知情人士透露，最早向美国政府上报该漏洞的企业是亚马逊。安索帕表示本次漏洞属于轻微缺陷，同类安全问题在其他科技企业的大模型产品中同样存在。

　　前脸书首席安全官亚历克斯・斯塔莫斯等多名人工智能安全研究员查阅过政府本次决策依托的技术报告后，并不认同监管部门给出的风险判定结论。

　　斯塔莫斯在社交平台 X 上发文表示：“报告中确实存在一些值得关注的安全发现，但并没有出现独一无二的高危能力，不足以支撑政府采取如此严厉的管控措施。”

　　前白宫人工智能事务负责人、特朗普政府顾问戴维・萨克斯则反驳了 “漏洞危害不大” 的观点。

　　他在 X 平台发文称：“很难理解为何有人会认为，一项能够赋能网络武器实施攻击的模型越狱漏洞算不上重大安全隐患。”