ソフトウェア開発の全工程で適用可能なトークン数を用いた規模計測方法の提案
ソフトウェア品質シンポジウム2025(2025年)
執筆者:
佐々木 瑛太(アズビル株式会社)
本研究は、ソフトウェア開発の全工程(設計・実装・テスト)に適用可能な「トークン数」を用いた成果物規模計測手法を提案し、その有効性を評価したものである。従来、各工程ごとにページ数・行数・項目数など異なる指標が使われてきたが、これらはスタイルや形式の違いによるばらつきが大きく、生産性評価の信頼性に課題があった。そこで、本研究では、成果物をテキスト化・トークン化し、そのトークン数で統一的に規模を測定する方法を考案した。
提案手法は、成果物を収集後、非テキストの場合はMarkdown等へ変換し、トークナイザーでトークン分割、トークン数を計測するという流れである。差分計測時は、変更前後の成果物から増減分のトークン数を算出する。また、オープンソースライブラリ(OpenAIのトークナイザーやMicrosoftのMarkItDown等)を利用することで自動計測も実現できる。
評価では、実装に対して、自動計測の可否・差分計測の可否に加えて計測結果のばらつきを検証した。その結果、従来の行数ベースよりもトークン数ベースの方が生産性のばらつきが小さく、より客観的な評価が可能であることが示された。
今後は、設計・テスト工程への適用や、人間の主観的成果量との比較、実際の開発現場での有効性・満足度の確認、さらには品質分析など他のメトリクスへの応用も検討し、信頼性向上と活用範囲拡大を目指す。
提案手法は、成果物を収集後、非テキストの場合はMarkdown等へ変換し、トークナイザーでトークン分割、トークン数を計測するという流れである。差分計測時は、変更前後の成果物から増減分のトークン数を算出する。また、オープンソースライブラリ(OpenAIのトークナイザーやMicrosoftのMarkItDown等)を利用することで自動計測も実現できる。
評価では、実装に対して、自動計測の可否・差分計測の可否に加えて計測結果のばらつきを検証した。その結果、従来の行数ベースよりもトークン数ベースの方が生産性のばらつきが小さく、より客観的な評価が可能であることが示された。
今後は、設計・テスト工程への適用や、人間の主観的成果量との比較、実際の開発現場での有効性・満足度の確認、さらには品質分析など他のメトリクスへの応用も検討し、信頼性向上と活用範囲拡大を目指す。
