AI の最大の問題ハルシネーションなどの不適切な応答を抑止する構造的応答制御

合同会社メンタルナビ（東京都西東京市、代表：村田芳実）は、AI の最大の問題であるハルシネーションなどのAIの判断・応答を構造的に制御する独自技術「構造的応答制御（SRC）」を開発しましたので報告いたします。生成AIには、ハルシネーションをはじめ、同じような条件でも判断や応答が不安定になるという問題があります。この現象は、AI開発の最大のネックになっており、AIのビッグテック企業も、この問題に莫大な投資と多くの専門人材を投入してきましたが、未解決のままになっていました。この問題に対して、弊社は、構造的応答制御（SRC：Structural Response Control）を開発して、この問題を解決しました。

SRCの仕組み
一般的に、AIは、指示に対して、膨大なデータから確率的に正しいと思われるデータを抽出して回答します。SRCでは、スキーマ（回答の枠組み：テンプレート、チェックリスト、ルールブック、マニュアルなど）基づいて回答するように指示します。つまり、スキーマが間違いなければ、回答も間違いないということになります。
SRCの仕組み図をご覧ください。
1.       従来は、AIの不適切性がそのまま操縦に反映されます(①)。        
2.       SRC(②)では、推論を判定し、承認された推論のみを実行します。
こうして、AIの不安定性を排除するのです。

203万回のテストで、規定の逸脱なし
SRCについては、これまで11種の検証を行ってきました。目的は「SRCを適用したAIは適用しないAIより規律を遵守する」という仮説の検証です。
それが、11種の203万回のテストです。一部は4種の主要モデルを対象としました。
このテストでは、SRCを適用したAIと適用しないAIに関して、規律に従った件数と率を求めるものでした。