AI の最大の問題ハルシネーションなどの不適切な応答を抑止する構造的応答制御 (2/3ページ)
実験結果
[資料: https://files.value-press.com/czMjYXJ0aWNsZSMzNzkzMyMzODIzMjIjMzgyMzIyX2QyMjI3NWU1ZGM0ZmI1YmM1OWE1ZDk2ZDEyNTU0ODBmLnBuZw.png ]
SRC適用AIの規律遵守率は100%、SRC不適用AIの規律遵守率は50%~92%でした。また、P<0.001であることから、SRCは有意であることが明確になりました。これに加えて、「信頼区間、Cohen’s h」と言った検証も行い効果は十分であることが分かりました。
つまり、SRCについて「理論的にそうなるはずだ」と考えているだけではなく実際にAIを動かし、大量のテストを行った結果として、規定からの逸脱が確認されなかった。
仮説が検証できました。
考察:なぜSRCは機能するのか
AIの仕組み(機械学習やディープラーニング)そのものが、数学的に「最も効率の良い答え」を導き出すように設計されています。
最適解の計算: 例えば物流の配送ルート構築や工場の在庫管理において、AIは膨大な選択肢の中から「時間・燃料・コストが最もかからない組み合わせ」を計算します。AIにとっての「正解」とは、多くの場合において最も無駄のない効率的な状態を指すため、結果として常に効率性を求めると考えられます。
この現象が生じる機序については、AIは、膨大な情報空間から無制限に探索することと、効率的な判断経路として学習済みのパターンやスキーマを利用することを比較します。すると、「SRCアルゴリズム」によって規律化されたスキーマに従うことが、AIにとって探索すべき判断範囲を縮小し、より効率的な判断経路となるため、結果として規律に適合した応答が選択されやすくなると考えられる。