生成AIを利用するシステムの安全性評価を支援するテスト観点表の提案
ソフトウェア品質シンポジウム2025（2025年）
生成AIはUXや企業収益を高める一方、その出力が個人・企業・社会に悪影響を及ぼす恐れもあります。そのため、生成AIを組み込むシステムでは、不適切な情報の出力を防ぎ、安全性を確保する設計が不可欠です。生成AIの安全性の重要性は業界内でも広く認識されており、さまざまな評価指針やベンチマークが公開されています。しかし、生成AIやその応用システムの安全性評価において、開発者の視点から見ると、考慮すべき情報は包括的に整理されていません。そこで我々は、それらの情報を整理し、安全性評価に活用できるテスト観点表を作成しました。本発表では、観点表の概要と有効性の評価結果を紹介するとともに、観点表を活用した安全性評価のテストプロンプトの作成方法についても報告します。