AIの開発でトップを走るOpenAIで創業者のサム・アルトマンCEOが突如解任されたというニュースが18日、世界中を駆け巡りました。6日に開催された初のDevDayではもちろん登壇し、新しいモデルや開発者が独自のAIを公開できるマーケットプレイスの開設など、トップ企業の地位を盤石にしたとの印象を与えたばかりだっただけに衝撃です。
CEOと会長が揃って会社を追われる
同社はプレスリリースで、「アルトマン氏は取締役会とのコミュニケーションにおいて一貫して率直ではなく、取締役会の責任を果たす能力に支障をきたしているとの結論に達しました。取締役会はもはや、彼が今後もOpenAIをリードし続ける能力に自信を持っていません」と述べて、最高技術責任者(CTO)のミラ・ムラティ氏が暫定CEOに就任したとしました。
OpenAIの取締役会はサム・アルトマン氏に加えて、取締役会長のグレッグ・ブロックマン氏、チーフサイエンティストのイリヤ・スツケヴァー氏、社外取締役のメンバーとして、Quora CEOであるAdam D'Angelo氏、テクノロジー起業家のTasha McCauley氏、ジョージタウンセキュリティ・新興テクノロジーセンターのHelen Toner氏の6名で構成されています。ブロックマン氏はプレスリリースでは「取締役会長は辞任するが同社にとどまりCEO直属となる」と説明されていましたが、即座にTwitterでアルトマン氏と共にOpenAIを去ると明らかにしました。
この退任劇について今朝から様々な事が噂されてきましたが、サイエンティストとして同社をリードしてきたスツケヴァー氏が主導し、社外取締役のメンバーを巻き込み、ビジネス拡大を追求してきたアルトマン氏とブロックマン氏を追放したクーデターであるという見方ができそうです。
ブロックマン氏はTwitterで顛末を投稿し、アルトマン氏が木曜夜に、スツケヴァー氏から翌日正午に話したいというメールを受け取り、Google Meetに参加したところ、ブロックマン氏以外の取締役会のメンバーが揃っていて、解雇を告げられたと明らかにしました。更に自身も金曜日の12時19分に電話を求めるメッセージをスツケヴァー氏から受け取り、Google Meetに参加したところ、取締役会から外れ、アルトマン氏は解雇されたと伝えられたそうです。また、暫定CEOに就任したムラティ氏が前日に知った以外の経営陣は直後にこの事態を知ったということです。
OpenAIはマイクロソフトと深い関係にあり、数十億ドルを投資し、同社の株式の49%を取得する権利を持っています。しかし、アクシオスの報道によれば、同社もアルトマン氏の解雇を知ったのは「ほんの1分前だった」ということです。同社のサティア・ナデラCEOは声明で「我々はOpenAIと長期契約を結んでおり、イノベーションのアジェンダとエキサイティングな製品ロードマップを実現するために必要なすべてのものにアクセスできる」と述べました。
OpenAIは2015年12月に、人類に利益をもたらす汎用人工知能(AGI)の開発を進める事を目的に、非営利団体として設立された組織です。イーロン・マスク氏も創業者の一人で初期の資金提供者でした。一方、AIの開発には大規模なリソースが必要で、大きな資金調達が必要でした。そのため、2019年に非営利団体と、その下に利益額に上限を求めた一般の事業会社を置くという構造に再編されました。その後、マイクロソフトから大規模な投資を受け、ChatGPTというプロダクトで一般にも知られるようになりました。今の評価額は10兆円とも言われます。
しかし何かしらの問題があったとはいえ、アルトマン氏は世界の首脳に直接会えるほどの影響力を持った人物になりました。日本にも訪れ、首相官邸で岸田首相とも会談しています。大きな損失であることは間違いありません。
対立軸はビジネスと安全性か?
単にビジネスとサイエンスの対立と言っても会社を瓦解する懸念を超えるような先鋭な対立はそうあるものではありません。一つヒントとなりそうなのはOpenAIが7月に発表し、スツケヴァー氏がトップを務めるとされたスーパーアライメントチームです。そこに書かれている事は非常に物騒です。
「超知能は、人類が発明した中で最もインパクトのあるテクノロジーとなり、世界で最も重要な問題の多くを解決する助けとなるだろう。しかし、超知能の巨大なパワーは非常に危険なものでもあり、人類を無力化し、あるいは人類を絶滅させる可能性さえある」「人間よりはるかに賢いAIシステムが人間の意図に従うようにするにはどうすればいいのか？」
このチームは世界トップの機械学習研究者とエンジニアを集め、OpenAIの計算能力の20%を今後4年間投じるとしています。具体的には、超知能を監督するAIを開発し、問題のある行動を監督し、コントロールする事を目指しています。
ちょうどトロントライフが、長年AIの開発に携わってきた第一人者で、現在はAIが人類の終焉を招くのではないかと警鐘を鳴らす活動を展開しているジェフリー・ヒントン氏へのインタビューを掲載しています。同氏はスツケヴァー氏を教えた立場でもあります。
同氏は既に企業がAIによってサーバーを自動的に追加する仕組みを作っているように、いつかAIが自身のコードを書き換えられるようになり、主体性を持つようになると指摘。「どのような目標を与えられるにせよ、サブ目標はそれを達成するためによりコントロールを求めるようになります。それは坂道を滑り出す事に似ています」「(破滅の運命を避ける事はできるのか)私にはこれらの問題への解決策がありません。気候変動のように"CO2の排出を辞めろ"と言えればいいのですが」
今月のDevDayではこれまでの数十倍の文字を解釈できる新モデルが提供開始され、さらに一般企業がAIを公開できるマーケットプレイスを立ち上げる事が明らかにされました。AIの利用を一気に加速させる施策である一方、安全なAIを提供するという使命を帯びた非営利団体が監督するという側面も持つ取締役会の立場、そして十分にコントロールできる環境を整備しながらAIを提供しようとするスツケヴァー氏の立場とは相容れないものがあったのかもしれません。
AIを活用するという立場からも、AIの安全性を担保するという立場からも、今後の動きに注目です。
