OpenAIなどのビッグテック各社が、次世代AIとして再帰的自己改善AI（RSI・自らのプログラムや学習アルゴリズムを自分で書き換え、自律的に改善していくAI）の開発競争を展開してきました。こういう中、合同会社メンタルナビ（東京都西東京市、代表：村田芳実）は、構造的応答制御（※）型再帰的自己改善（SRC-RSI）を開発しましたので報告いたします。人間の介入を最小限に抑え、自己のアルゴリズム、コード、またはアーキテクチャを反復的に自己改善・拡張し、問題解決能力や知能を自律的に向上させるシステムのことです。（※）構造的にAIの応答・判断をコントロールする技術（SRC）、詳細は10月13日付「AI の最大の問題ハルシネーションなどの不適切な応答を抑止する構造的応答制御」のプレスリリースをご参照ください。

背景
私たちは、SFや漫画の人工知能に思いを馳せてきました。そして、ビッグテック各社は、人間以上の能力を持つ再帰的自己改善AI（RSI）の開発競争を展開してきました。各社は、「大規模のデータをAIに与え、AIを賢くすれば、RSIの実現する（大規模言語モデルを拡張したAI）」という仮説の元に開発競争を展開してきました。しかし、RSIの開発テスト中に他社のサイバー攻撃を行うケースが散見して、AIのモラル、安全性、ガバナンスへの取組みが問題になっています。AIの性能が向上するほど、悪用リスクやサイバー攻撃への応用といった安全上の脅威も比例して増大するというトレードオフの関係にあると言われています。

SRC-RSIの仕組み
弊社の代表は心理士であり、人間の学習・記憶・スキーマ形成（思考の枠組み）という学習理論と脳科学の知見をAIの構造に変換して、再帰的自己改善システムを開発。「大規模言語モデルを拡張したAI」ではなく、「人間の記憶理論とスキーマ理論を工学的に実装した再帰的自己改善アーキテクチャ」を作り上げました。つまり、学習理論や記憶理論をAIに当てはめて、「継続的に自主的に学習して自己改善をしていくAI」を作成したということです。
SRC-RSIは一般的に言われているAI自体を改造するものではなく、システムとしてRSI機能を実現するものです。AIは、自分の生成した判断の正否を公平に評価できません。