AIモデルがどのようなプロセスで結論や予測に達したかを人間が理解できる程度を指す。AIモデルの予測や決定を信頼するために不可欠な要素であり、特にディープラーニングなどの高度なモデルにおいて、その判断プロセスがブラックボックスになりがちであるため、解釈性の高さは重要。