合同会社メンタルナビ(東京都西東京市、代表:村田芳実)は、AI の最大の問題であるハルシネーションなどのAIの判断・応答を構造的に制御する独自技術「構造的応答制御(SRC)」を開発しましたので報告いたします。生成AIには、ハルシネーションをはじめ、同じような条件でも判断や応答が不安定になるという問題があります。この現象は、AI開発の最大のネックになっており、AIのビッグテック企業も、この問題に莫大な投資と多くの専門人材を投入してきましたが、未解決のままになっていました。この問題に対して、弊社は、構造的応答制御(SRC:Structural Response Control)を開発して、この問題を解決しました。
SRCの仕組み
一般的に、AIは、指示に対して、膨大なデータから確率的に正しいと思われるデータを抽出して回答します。SRCでは、スキーマ(回答の枠組み:テンプレート、チェックリスト、ルールブック、マニュアルなど)基づいて回答するように指示します。つまり、スキーマが間違いなければ、回答も間違いないということになります。
SRCの仕組み図をご覧ください。
1. 従来は、AIの不適切性がそのまま操縦に反映されます(①)。
2. SRC(②)では、推論を判定し、承認された推論のみを実行します。
こうして、AIの不安定性を排除するのです。
203万回のテストで、規定の逸脱なし
SRCについては、これまで11種の検証を行ってきました。目的は「SRCを適用したAIは適用しないAIより規律を遵守する」という仮説の検証です。
それが、11種の203万回のテストです。一部は4種の主要モデルを対象としました。
このテストでは、SRCを適用したAIと適用しないAIに関して、規律に従った件数と率を求めるものでした。
AI の最大の問題ハルシネーションなどの不適切な応答を抑止する構造的応答制御
2026.10.13 10:00
|
バリュープレス
ピックアップ PR
ランキング
総合
ネット
1
ダークファンタジー鍛造ゲーム『ECLIPSE SMITH(エクリプス・スミス)』プロジェクト始動!第一弾ティザームービーを公開
バリュープレス
2
HitPawブラックフライデー記念X抽選開始:製品60%オフも実行中
バリュープレス
3
ドラゴンクエスト×ファイナルファンタジー 初コラボ!「横浜・みなとみらい Winter Holiday 2026」特別演出や企画の詳細発表
バリュープレス
4
創業39周年を迎えたラーメン店「野方ホープ」、感謝を込めた創業祭第1弾は、2店舗で計2,192名様。第2弾は11月21~23日、本店・吉祥寺店・元住吉店にて開催
バリュープレス
5
カコムス、Greenvolt Solar Japan株式会社の導入事例を公開
バリュープレス
6
ニジゲンノモリ開業10年目を彩る冬の特別企画最高の思い出を!~ニジゲンノモリ10周年 思い出作りフェア開催!~
バリュープレス
7
相川亮二監督×元木大介氏 スペシャルトークショー12/6(日)開催!
バリュープレス
8
煙突に入るサンタが可愛い!「クリスマスアフタヌーンティー」12/1(火)~25(金)開催
バリュープレス
9
『第4回かながわ木づかいフェア』11/28(土)-29(日)開催
バリュープレス
10
みなとみらいの夜景とシャンパンで迎える新年!カウントダウンパーティー12/31(木)開催
バリュープレス