相信很多大家對OpenAI 研究員因安全問題辭職后加入 Anthropic還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

站長之家（ChinaZ.com）5月29日 消息:OpenAI 的關鍵研究員 Jan Leike 本月早些時候因 “安全問題” 而辭職，最近他宣布加入競爭對手 Anthropic，從事 “可擴展的監(jiān)督、從弱到強的泛化和自動對齊研究”。

Anthropic 是一家公益公司，致力于謹慎推進人工智能技術發(fā)展，其創(chuàng)始人是一些離開 OpenAI 的前員工，他們認為 OpenAI 在與微軟簽訂了10億美元交易后，偏離了其開發(fā)更安全、更符合倫理要求的人工智能的使命，過于關注商業(yè)利益。對于關注人工智能領域發(fā)展的人來說，Leike 加入 Anthropic 并不令人意外。

“我們迫切需要認真對待人工通用智能 （AGI） 的影響。我們必須優(yōu)先準備好應對這些影響，” 幾周前，Leike 在關于他辭職的帖子中如此表示?！爸挥羞@樣，我們才能確保 AGI 造福于全人類?！盠eike 之前在 OpenAI 的 “超對齊” 團隊工作，而這與他在 Anthropic 的職責相符，即確保智能系統(tǒng)設計與人類價值觀一致。在宣布辭職后，Leike 批評 OpenAI 未能提供足夠的計算資源來確保成功。

Anthropic 采用 “憲法型人工智能”，將倫理原則融入人工智能模型的訓練中，通過收集公眾意見和整合聯(lián)合國《人權宣言》等來源的概念，正如我之前報道的那樣。

OpenAI 的另一位聯(lián)合創(chuàng)始人 Ilya Sutskever 也離開了該公司，他在本月早些時候離職，并據(jù)稱自從他在11月發(fā)起對 CEO Sam Altman 的未遂政變后一直未出現(xiàn)在辦公室。盡管 Sutskever 已經辭職并且尚未表明他的下一步行動，但他的價值觀與 Anthropic 一致，這使得 Anthropic 成為他的可能去向之一。

以上就是關于【OpenAI 研究員因安全問題辭職后加入 Anthropic】的相關內容，希望對大家有幫助！