由於對公司領導層失去信心，OpenAI的人工智慧安全團隊正面臨“大規模外流”，主要成員紛紛辭職。本週，OpenAI超級對齊團隊負責人伊利亞·蘇茨克沃和簡·雷克在同一天內先後宣布離開。

　　蘇茨克沃和雷克是確保人工智慧與人類目標保持一致的關鍵人物，他們的離職引發了人們對該公司在人工智慧安全方面的未來的擔憂。

　　自去年11月OpenAI董事會試圖解僱CEO薩姆·奧特曼以來，至少還有五名專注於AI安全的員工離職。據公司內部消息人士透露，這次失敗的驅逐導致關注AI安全的員工對奧特曼失去了信任。

　　一位匿名消息人士表示：“這是一個信任一點一點崩塌的過程，就像多米諾骨牌一塊一塊倒下一樣。”

　　OpenAI帶有非貶低條款的離職協議也導致離職員工保持沈默。那些拒絕簽署協議的人將喪失他們在公司的股權，可能損失數百萬美元。

　　拒絕簽署離職協議的前員工丹尼爾·科科塔伊洛（Daniel Kokotajlo）直言不諱地談到了該公司的發展方向。

　　他說：「OpenAI正在訓練越來越強大的AI系統，目標是最終全面超越人類智慧。這可能是人類有史以來發生的最好的事情，但如果我們不小心行事，它也可能是最壞的。

　　雷克在X上的一篇貼文中回應了科科塔伊洛的擔憂，他寫道：「很長一段時間以來，我一直不同意OpenAI領導層對公司核心優先事項的看法，直到我們最終達到了臨界點。

　　奧特曼在X上發文感謝並肯定了簡·雷克在OpenAI的貢獻和領導能力。並表示，未來幾天內會發表一篇更長的帖子，以闡述OpenAI對於產品安全的規劃和所做的事情。

感謝您分享有用資訊