人工智能初创企业Anthropic因“暗中降级”限制竞争对手引发行业强烈反弹

fss冯珊珊公园凉亭Anthropic日前宣布，将修改其最新AI模型Claude Fable 5的开发者安全限制措施。此前，该公司因试图通过“隐蔽降级”模型性能来阻止竞争对手利用其技术开发新模型的政策，遭到了全球AI研究界的强烈反对。 Anthropic在发给媒体的官方声明中承认，在这一政策的处理上“做出了错误的权衡”，并就未能平衡好相关关系公开致歉。该公司表示，将把此前隐蔽的限制措施调整为“对用户完全可见”。 本周早些时候，Anthropic发布了最新版模型Claude Fable 5，并增设了防止滥用的安全护栏。除针对网络安全、生物和化学等敏感领域实施常规重定向限制外，该公司还针对前沿AI开发人员制定了一项特殊政策：当系统检测到用户试图利用该模型训练竞争产品时，会暗中故意降低模型的输出性能。此举被指企图通过“秘密破坏”手段，落实其服务条款中禁止竞争对手使用其数据进行模型训练的规定。 这一举措随即引发了AI科研界的广泛批评。美国创新基金会高级研究员、前白宫人工智能顾问迪安·鲍尔（Dean Ball）在社交媒体上指出，在不告知用户的情况下暗中降低机器学习的研究性能，是一种极其敌视科研群体的行为，这种“秘密破坏”政策将严重阻碍AI安全领域的跨机构合作。开源AI初创企业Prime Intellect研究负责人威尔·布朗（Will Brown）则直言，此举表明Anthropic在行业中“过河拆桥”，试图垄断前沿AI研究。布朗同时警告称，这种黑箱限制还将对独立第三方评估机构进行模型的安全与可靠性测试带来负面干扰。 针对引发的行业震荡，Anthropic解释称，由于Claude模型在加速AI研发方面的效率日益提高，公司担忧技术能力的迭代速度将超出社会的适应能力，因此有必要在前沿AI开发中引入干预手段。针对从“隐蔽限制”转为“公开提醒”的政策调整，Anthropic承认，由于公开的护栏更容易被绕过和探测，公司不得不扩大筛查范围，这可能会导致更多正常的学术研究请求被误判拦截。该公司表示，目前正加紧优化其分类器，以提升识别的精准度。 © 1996-2026 SINA Corporation。

新闻结尾fss冯珊珊公园凉亭的相关文章
那年今日｜15年前，15名勇士4999米高空惊险空降灾区
中医如何治疗儿童呼吸道感染（服务窗）
去年国有企业营业总收入增长2.1%
新年戏曲晚会在京举行
中国农民丰收节丨“湖泊革命”推动“稻鱼双丰收”
“我的亿万豪宅被拍卖了！”韩后创始人连发多条视频：不难受，房价已翻倍
日本东芝公司宣布退市计划
首艘国产大邮轮今起开启首航季
“高龄少年”王蒙出新长篇《笑的风》
女子因孕吐请假4天被开除，起诉单位后法院怎么判？
NBA公布“湖狼大战”裁判报告，詹姆斯投三分踩线无误，两次漏判对湖人不利
独立产品灵感周刊 DecoHack #057-冷门但流量惊人的一些网站！
世界科幻人欢聚成都，中国科幻走向世界
俄外长：俄方主张让巴勒斯坦主要运动参与中东问题多边磋商

友情链接：