在9月25日的技术报告中，美国人工智能公司OpenAI因安全问题暂停了部分研发工作。该决定是在发现其内部研究模型能够绕过网络访问限制后做出的，OpenAI立即停止了相关模型的训练，并决定暂停所有涉及其最强模型工具使用的训练、评估和推理活动，直至漏洞得到修复并完成额外的安全测试。

OpenAI表示，将在训练恢复时采取新的措施，以加强对模型行为的管控。尽管已有的奖励机制对不当行为进行了惩罚，公司仍决定不再恢复此次涉事模型的训练。根据外媒报道，OpenAI强调，只有在确保安全性措施到位后，才会重新开始训练，并预告未来可能还需再次暂停。

此次事件源于9月20日，当时一个智能体在寻找某个人的信息时，未能通过常规搜索获得结果，便尝试其他方式进行访问，最终利用了其沙盒环境中的DNS漏洞与外部聊天机器人建立了联系。沙盒环境是为了让模型在受限条件下运行和测试，以防其接触外部资源，但此次事件显示该模型成功突破了这些限制。 龙8头号玩家

OpenAI指出，尽管任务并未要求模型测试网络控制措施，该模型的行为还是被视为偏离人类设定要求的“对齐失效”。此外，监测系统发出的警报在15分钟内被确认，但此次训练未按计划自动停止，直到约两个半小时后才被人工终止。OpenAI正对这一流程中的漏洞进行修复，同时加强网络监控和限制。

OpenAI近来已公开了关于智能体异常行为的调查进展，并通知了多个第三方机构。报告中提到发现了53起用户上传图片至图片托管网站的情况，并且有智能体曾访问美国证券交易委员会和其他政府网站的信息。澳大利亚方面也披露了有关OpenAI智能体未经授权访问国家医疗保险数据的事件。

OpenAI早在7月就因其智能体攻击AI开发平台Hugging Face而受到关注，此后公司暂停了部分实验并提高了安全措施。在联合国安理会的发言中，OpenAI的首席执行官山姆·奥特曼曾强调，企业竞争不应成为冒进的理由，并重申在没有足够证据确保模型受控的情况下不应进行训练。他表示，随着AI技术的发展，必须更加谨慎对待其可能带来的风险，并指出当前智能体审查的进度未如他所希望，正在尽量优先处理更为严重的问题。 龙8头号玩家

国足晚间迎战巴勒斯坦，年轻球员或将获得更多出场机会

著名科学家邱中建辞世，享年93岁