OpenAI的第二位决定因素高管现已在72小时内离职,为这家无疑是当今世界上最具SLG重要性的公司之一描绘了一幅不太讨人喜爱的画面。
也就是说,OpenAI的协调主管JanLeike昨天结束了在该非营利组织的最后一天工作。为了那些也许不了解的人的利益,对齐是壹个决定因素过程,通过它将人类价值观编码到大型语言模型(LLM)中。它还允许法学硕士遵循既定的政策和准则。显然,OpenAI的整个比对团队今年已经解散了。
在讲述自己在这家非营利组织的故事时,雷克指出,OpenAI并未投入适当的资源来确保LLM的安全性和对抗稳健性。这位前高管还认为,这家非营利组织没有思考到试图制造“比人类更伶俐”的机器所带来的更广泛的社会影响,而且“安全文化和步骤已经让位于闪亮的产品。”
Leike在一份令人惊讶的声明中指出,他的团队经常难以获取OpenAI所需的计算资源:
“过去几个月,我的团队一直在逆风前行。有时,大家在计算上遇到困难,完成这项决定因素研究变得越来越困难。”
当然,如前所述,雷克是过去72小时内第二位退出OpenAI的决定因素高管。正如大家在另一篇文章中指出的那样,该非营利组织的首席科学家IlyaSutskever于5月14日公布了他辞职的决定,转而从事“对单人有意义”的项目。
请记下,Sutskever在2023年11月针对OpenAI首席执行官SamAltman的政变中发挥了决定因素作用,后者因日益商业化的倾给以及在没有适当保障措施的情况下推动人工智能相关进步的倾给而被董事会立即解雇。董事会正式将奥特曼在沟通中缺乏坦诚作为开战的原因。然而,这一决定引发了OpenAI的综合反抗,员工集体辞职。最终,奥特曼在迫使支持政变的董事会辞职后,得以重返首席执行官职位。