SQiPさまざまな取り組みから得られた成果を一般公開しています。
ソフトウェア品質管理にお役立てください。

生成AIを用いたレビュー承認自動化に関する研究 Human-AI Agreement Zone(HAZ)の定量的活用

ソフトウェア品質シンポジウム2025(2025年)

AIの業務適用が進展する現代において、「どこまでAIに判断を任せられるか」は重要な課題である。本研究では、人とAIの判断が一致する領域をHuman-AI Agreement Zone(HAZ)と定義し、それを信頼性スコアとして抽出、AIが主体的に判断する自動化構造を提案する。対象は年間50万件の商品レビューの審査業務である。本手法では、審査プロセスを「Agentic Workflow」により5段階に分解し、各段階ごとに判断確定ステップ(Step)とレビュー本文の品質(Grade)から信頼性スコアを算出した。このスコアに基づいて、人とAIの判断が高い一致を示す自動承認可能な範囲(HAZ)を定量的に明示した。実運用データ20万件の評価では、信頼性スコア0.15以下の領域で人とAIの一致率が100%(95%信頼区間下限でも99.997%)を達成し、全体の約60%をAIが自動承認、従来最大7日を要した処理を10分以内に短縮した。HAZはAIに安全に判断を委ねる新たな枠組みとして、従来のHuman-in-the-Loop(HITL)に代わる指標となり得る。本研究は、信頼性スコアモデルとHAZの構造化によって、AI社会実装における設計思想と現場運用をつなぐ先駆的事例である。