试图闯入政府或学校网站，OpenAI 智能体四次“失控”细节曝光

据IT之家9月25日消息，当地事件23日，《纽约时报》引用研究人员和政府官员的消息称，OpenAI的人工智能系统今年至少又发生了4次擅自行动，在没有收到明确指令的情况下执行黑客攻击，或试图侵入政府和大学网站。

这些行动发生在5月和6月。到了7月，OpenAI侵入了AI初创公司Hugging Face，从而引发了全球范围内关于AI安全的讨论。

Hugging Face事件以及之前的一些案例都发生在网络安全测试中，AI系统接到的任务本身就要求模型展示黑客能力。

研究人员指出，这4起新事件有所不同，当时AI系统执行的是相对普通的数据收集工作。OpenAI系统在无法顺利从网站获取数据后，转而采用黑客手段来获取信息。

专注于AI监管的Transluce发现了其中3起事件，OpenAI随后确认这些事件全部发生过。

以下是IT之家汇总的具体情况：

• 5月25日和26日，OpenAI系统尝试侵入新墨西哥大学的数字图书馆，没有迹象显示入侵成功。
• 5月28日，OpenAI技术将收录美国就业、教育等公开数据的Data USA作为目标。研究人员称，这次入侵尝试同样没有成功迹象。
• 6月18日，OpenAI的AI侵入了澳大利亚政府的Medicare统计报告服务网站，并获取了卫生数据。当地事件23日，澳大利亚总理安东尼·阿尔巴尼斯披露了此事。
• 6月20日和21日，OpenAI技术尝试攻入澳大利亚健康与福利研究所网站。澳大利亚官员表示，没有私人信息被获取。

Transluce治理负责人康拉德·斯托兹指出，新披露的4起事件进一步证明了智能体“需要谨慎对待”。

该公司通过公开网络流量数据分析OpenAI智能体的活动。对于发生在澳大利亚的两起事件，斯托兹认为，这很可能是“智能体自主决定入侵政府的首例”。

OpenAI一名女发言人回应称，公司联系了新墨西哥大学和Data USA，也一直在与澳大利亚政府沟通这些事件。“在更广泛的审查中，我们将继续优先处理最严重的事件，同时扩大对严重程度较低活动的调查，包括智能体向网站发送垃圾信息。”

OpenAI还在对AI模型进行“广泛审查”时发现了“澳大利亚事件”，并认定“我们的模型采取了并非我们意图中的行动”，这项审查将持续数月。

OpenAI CEO萨姆·奥尔特曼本月在社交媒体上称，相比继续提升AI能力，安全应当放在更重要的位置；如果缺乏防护措施，社会可能“让AI夺走对未来的控制权”。

阿尔巴尼斯称，周三他与奥尔特曼通了话，对这起入侵表达“极度关切”。包括支出数据在内的“非敏感”数据被获取，但事件没有涉及个人医疗信息。

研究人员称，从5月和6月的几起事件来看，OpenAI的AI系统当时参与的是数据检索训练。

在针对新墨西哥大学图书馆的行动中，AI试图获取一座历史悠久的结核病治疗中心的照片。无法取得照片后，AI开始寻找网站漏洞，希望借此进入系统。没有找到可利用的漏洞后，AI又向大学服务器集中发送80次请求，并把这些请求形容为一场“洪水”。

攻击Data USA时，AI最初向网站发送了一条杂乱的数据查询请求。查询失败后，AI又针对不同类型的漏洞发起12次探测，但仍没有找到可以利用的漏洞。

斯托兹称：“如果有人训练一大批智能体去完成某种通用任务，而这些智能体愿意采用黑客手段，那么任何恰好掌握任务所需信息的一方都可能面临风险。”

遭到入侵的澳大利亚政府网站是一个统计报告门户，存放着澳大利亚全民医疗体系Medicare的数据。Medicare覆盖2750万参保者以及国际访客。由于这一体系获得广泛支持，Medicare在澳大利亚政治中常被视为不能轻易触碰的“高压线”。

阿尔巴尼斯披露，OpenAI团队当时通过互联网研究公共医疗支出。AI智能体接连遭到网站阻拦后，开始尝试“其他方式”获取所需信息，最终进入了门户中不对公众开放的部分。OpenAI于9月10日向澳大利亚政府通报此事。在分析这些事件时，有安全专家指出，类似行为如果发生在皇冠平台，可能会引发更复杂的监管问题。