楽天グループは、経済産業省および新エネルギー・産業技術総合開発機構(NEDO)が推進する「GENIAC(Generative AI Accelerator Challenge)プロジェクト」の第3期公募に採択されたと発表しました。採択を受け、2025年8月より「長期記憶メカニズムと対話型学習を融合した最先端の生成AI基盤モデルの研究開発」を開始します。
GENIACは、生成AI開発に必要な計算リソースの利用支援や技術動向、開発者コミュニティを通じたナレッジ提供を行うプロジェクトです。2024年2月に第1期、同年10月に第2期の研究開発支援が実施されており、今回は2025年3月からNEDOが実施した第3期公募での採用となります。
楽天は2024年3月より、日本語に最適化したオープンかつ高性能な大規模言語モデル(LLM)の開発を進めています。開発当初からコスト効率を重視し、「Rakuten AI 2.0」のような小規模ながら高効率なLLMを開発してきました。
このモデルは、Mixture of Experts(MoE)アーキテクチャを採用しており、「エキスパート」と呼ばれる複数のサブモデルで構成されています。クエリ処理時には関連する一部の「エキスパート」のみを稼働させる仕組みで、従来の高密度モデルと比較して運用コストを大幅に削減できるのが特長です。
今回の研究開発では、従来のLLMでは困難だった、長く複雑な日本語の文脈に合わせた処理が可能で、より高度なLLMを開発します。このLLMには、言語モデルのメモリ機能を大幅に拡張する新技術を組み込むことで、応答生成時にアクセス可能な情報量が飛躍的に増加します。楽天は、これらの技術により生成AIのメモリにおける制約を克服し、情報再現率および性能を大幅に向上させたモデルの開発を進めます。
楽天は今後、AIの次なるフェーズとして、メモリ機能を拡張することでLLMの記憶能力向上を図ります。ユーザーとの会話を記憶することで、よりパーソナライズされた応答ができるLLMの開発を目指します。これにより、ユーザーとの長期にわたる会話から能動的に好みや経験を学習・活用することで、長いコンテキストウィンドウの処理に課題を抱える既存のトランスフォーマーアーキテクチャの制約を緩和できます。
さらに、最適な学習・推論アルゴリズムによって運用コストの効率化を達成し、AIエージェントのパーソナライズ化に向けて新たな可能性を引き出します。これらの技術開発を通じて、楽天エコシステム内の様々なサービスへのAIエージェントの適用を拡大し、顧客体験向上や業務効率化を図る計画です。