virtueai

📰 6月にMetaに加わったばかりなのに、4か月後にはチーム縮小のうわさが流れました。バークレー校の宋晓冬教授が所属するVirtue AIチームとMetaの協力関係に変化が生じたようで、公式発表では「仕事のスタイルが合わない」ことが理由とされています。
今回の採用は会社全体の買収ではなく、Metaが宋晓冬氏、Bo Li氏、Sanmi Koyejo氏をはじめとするチームメンバーをスーパーインテリジェンス研究所に迎え入れたものです。Virtue AIはもともと、AIの安全性テストや攻撃シミュレーション、レッドチームテスト、リリース後の保護を主に手がけていました。

🔥 この協力関係は、当初は実に順調でした。Virtue AIはMetaの製品やユーザー規模を活用し、安全性に関する取り組みをより幅広い場面に展開でき、Metaにとっても、AIエージェントやスーパーインテリジェンスを急速に推し進めるなかで、モデルの制御不能やデータ漏えい、悪意ある指示といった問題に対処する人材が必要でした。

ところが、わずか4か月で双方に意見の食い違いが生じました。MetaはVirtue AI出身の従業員を一部削減すると発表しましたが、報道では宋晓冬氏らが全員退職したかどうかは確認されておらず、当時、Virtue AIチームからの回答もありませんでした。

💡 正直なところ、「仕事のスタイルが合わない」という説明は少し漠然としすぎているように聞こえます。スタートアップのチームは自主性や柔軟性を重視し、素早く試行錯誤することに慣れています。一方、大企業に入ると、より多くの手続きや組織上の調整に直面するため、技術的な問題よりも対立への対応が難しいこともあります。調査によると、買収された企業の従業員は初年度の離職率が33％で、一般採用の従業員の12％を上回っており、組織への適応は決して小さな問題ではありません。

🤔 トップクラスのAIチームが大企業に加わった後、最も行き詰まりやすいのは技術の方向性でしょうか、それともマネジメントのやり方でしょうか？

#AI安全 #Meta #VirtueAI #人工知能