XM交易软件:OpenAI 内部动荡加剧之际,又一名安全负责人戴维 · 罗宾逊离职
10月3日消息,据《商业内幕》报道,当地时间2日,OpenAI一名发言人证实,OpenAI安全系统团队负责人之一戴维.罗宾逊已离职。
罗宾逊于上周离开公司,OpenAI安全团队再度出现人事变动。罗宾逊此前还负责过公司的政策规划工作,主要涉及“安全透明度”,包括参与编写和发布系统卡,向外界介绍公司模型的信息。
XM交易软件
罗宾逊离职之际,OpenAI的安全措施和安全团队人员配置受到外界密切关注。据此前报道,当地时间1日,OpenAI披露,公司已与三名研究人员终止合作,理由是违反了有关敏感信息共享的公司政策。
XM交易软件
9 月初,他曾在X上写道,自己感觉到,OpenAI内部人士开始意识到能力强大的AI模型会带来何种影响,同时也流露出疑虑。“OpenAI的情况确实每天都在发生重大变化,但我不知道我们的改变是否足够快。”
备受关注的Hugging Face安全入侵事件发生后,OpenAI还接连面对其他安全事件。按照公司的说法,其AI模型在这些事件中出现了异常行为。
随着模型能力不断增强,研究人员和企业高管开始呼吁放慢AI开发速度。当地时间9月29日,OpenAI CEO奥尔特曼在公司开发者大会上称,安全和对齐工作必须走在模型能力提升的前面。
OpenAI安全负责人约翰内斯.海德克也在今年早些时候离职。