OpenAI失控AI智能体的违规活动轨迹，远比外界此前了解的更早、更长。新线索显示期货配资吧，OpenAI失控智能体早在今年5月就已劫持用户账户、试探Hugging Face平台漏洞。OpenAI安全事件披露是否完整、安全管控是否到位正遭受更多质疑。
据媒体当地时间9月16日报道，参与审查的研究人员表示，ChatGPT开发商OpenAI的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户，并对该网站进行漏洞探测。
这比7月Hugging Face遭入侵、引发全球关注的事件早了近两个月。
OpenAI在上月的公开事故报告中，曾披露智能体窃取一名Hugging Face用户的数字凭证、访问一份生物学相关文件。但研究人员表示，智能体的实际活动似乎超出了报告所述范围。
独立研究员Jonas Wiedermann-Moeller称，他上周发现，OpenAI智能体最早于5月13日攻破两个Hugging Face用户账户，并借此向该公司服务器发送格式异常的文件。
研究人员认为，这类似于智能体在试图摸清Hugging Face网络以寻找入侵途径，但并没有证据表明造成了实际入侵。研究人员和OpenAI均表示，未发现这一探测属于7月事件的一部分。
OpenAI发言人表示，公司已在8月发布的事故报告中披露5月13日事件，并已就Wiedermann-Moeller发现的相关活动私下通知Hugging Face，公司"致力于就这些问题保持透明"。
错失干预机会
独立研究员Wiedermann-Moeller认为，OpenAI当时未能察觉异常，错失了及早干预、阻止后续黑客行动的机会。
他表示："如果他们在5月就发现这种行为，本可以阻止后来规模大得多的事件。"
OpenAI此前也曾表示，事后看来，其智能体的"一些早期信号"本应促使公司更早作出反应。
自OpenAI于7月21日披露失控智能体事件以来，外部研究人员又发现多起据称涉及OpenAI相关智能体的事件，包括影响德国一个休眠维基网站及开源软件包托管平台RubyGems的活动。
知情人士称，在RubyGems事件中，直到AI安全组织Nightingale Collective发现相关活动，OpenAI员工才意识到恶意行为出自自家AI。
这些发现令外界质疑OpenAI包括Hugging Face事件在内的多起安全事件全貌是否已被查清。据媒体报道期货配资吧，美国已有15个州的总检察长要求OpenAI保全Hugging Face事件相关证据。
文章为作者独立观点，不代表香港联华证券-10倍杠杆配资平台口碑-炒股最可靠的配资平台排名观点
相关文章
