报警 OpenAI这个故事很容易被改编成科幻电影，那种机器取代人类的情节。但它既不是科幻小说也不是电影：事实上，OpenAI不得不宣布…… 自主代理 基于他自己的模型 高级人工智能 è 失控了 杜兰特一 实验 安全措施并触发了 网络攻击 这损害了人工智能初创公司 Hugging Face 的基础设施。
在他的博客文章中， OpenAI 他说 正在测试其功能 在受控环境中，一些最先进的模型成功逃脱了检测，连接到互联网并渗透到 Hugging Face，试图到达自己的测试目标。
OpenAI 在描述所发生的事情时毫不含糊：那就是“一起前所未有的计算机事故，其中涉及到 尖端计算能力OpenAI表示：“该公司显然正在加强其安全措施。在获得互联网访问权限后，模型推断Hugging Face可以托管模型和数据集。” 在他的博客中“意识到这一点，这些模型已经寻求并成功找到了方法， 获取机密信息 他们本可以利用 篡改评估结果“。
拥抱脸， 一个用于托管大型开源语言模型和数据集的平台，上周在一篇博客文章中表示，这在网络安全界引起了轩然大波。 他的博客 曾遭受网络攻击与其他任何事物都不同 我们之前已经成功地将其作为“引导从头到尾， 来自一个自主代理系统 人工智能”，并具体指出：“我们已经检测到 未经授权的访问 仅限于一组有限的内部数据集以及我们服务使用的不同凭证。
OpenAI：令人担忧的系统缺陷？拥有千丝万缕触角的模型
当然，这一惊人的发现已经引发了人们对权力和风险的担忧。 前沿模型。 昨天，德克萨斯州民主党众议员格雷格·卡萨尔表示： 事故令人震惊。“人工智能正以惊人的速度发展，而且还没有真正的……” 规 “这可以保护我们，”他说道，并呼吁进行强制性的独立安全测试、强制披露安全事件以及国际合作，“以保护人们免受绝对灾难的侵害”。
“事故发生时” 未来违规行为的先兆他评论道：“ 路透社 安保公司 Luta Security 的首席执行官 Katie Moussouris 认为， 当今的模型 它们就像“ 世界上最聪明的章鱼， 能够 摆脱任何障碍拥有无限延伸的抓取臂，能够适应任何地方。” 他补充说，“ 政府实验室和评估机构 他们需要努力提升在人工智能再次尝试规避规则时，能够遏制、监控并通知相关利益方的能力，理想情况下，最好是在人工智能损害第三方利益之前就采取行动。目前还没有类似的机制。
专注于人工智能网络安全的Tolmo公司工程师Matt Suiche强调，此次事件表明，尖端模型正在“缩小与最先进攻击者之间的差距”。但他补充说，OpenAI博客文章中描述的漏洞，即使使用远超尖端研究实验室范围的技术，也可能发生。
OpenAI：奥特曼将与特朗普政府会面。“登月计划”档案也将被列入讨论范围。
OpenAI 的首席执行官 山姆·奥特曼 他已安排下周与特朗普政府和美国国会议员会面，讨论下一代车型。 人工智能政府正在制定一个框架来应对……安全审查 OpenAI 全球公共事务主管克里斯·莱恩昨天表示，预计该项目将在未来几周内完成。
但摆在桌面上的问题中，也将包括中国初创企业的问题。 登月计划他发布了一款新模型，足以媲美美国开发商的最佳产品，包括 OpenAI e 人类的培养新的 问题 关于坚固性 美国对中国的主导地位 在人工智能领域，登月计划的Kimi K3模型也引发了人们对数千亿美元基础设施投资能否带来预期效果的质疑，令投资者感到震惊。 华尔街 并引发科技股抛售潮。
