圆海博客-探寻心灵的宁静

您现在的位置是:首页 > 博客 > 正文

博客

OpenAI 重要研究员接连离职 安全问题让位于新产品

2024-05-20 10:30:01博客
OpenAI联合创始人IlyaSutskever宣布离职后,该公司另一位重要研究员JanLeike也透露即将离开。这引发外界关注,OpenAI是否正在向新产品发展的同时,忽视了人工智能安全问题。……

近日,OpenAI 联合创始人 Ilya Sutskever 宣布离职后,该公司另一位重要研究员 Jan Leike 也透露即将离开。这引发外界关注,OpenAI 是否正在向新产品发展的同时,忽视了人工智能安全问题

据悉,Sutskever 离职后,他负责的「超级对齐」团队也被解散。该团队此前一直致力于解决 AI 带来的安全风险。而 Jan Leike 也是该团队的主要负责人之一。

在 X 平台上,Leike 表示,在过去几年里,OpenAI 的安全文化和流程已经让位给了「闪亮的」新产品。这引发外界担忧,OpenAI 是否正在过度关注新产品的发展,而忽视了人工智能安全问题的重要性。

对此,OpenAI CEO Sam Altman 在 X 平台上回应了此前有关「封嘴」离职条款的传闻。他表示,公司从未收回任何人的既得股权,即使有人没有签署离职协议(或不同意非贬低协议),也不会采取上述做法。

目前,OpenAI 研究员的连续离职引发了外界对该公司人工智能安全问题重视程度的质疑。在追求新产品发展的同时,OpenAI 是否应该更加重视人工智能安全,这已成为外界关注的焦点。