AI for Accessibility の現状の課題

ここまで紹介したAI4Aだが、(1)利用できるユーザ、(2)出力の信頼性、の課題がある。

ユーザ問題

AIは基本的に「きれい」なデータを使って学習したものが多く、入力はきれいなデータを入力することが前提となっている。すなわち、きれいなデータを入力できないケースに対応できないということになる。
例えば、音声認識であれば吃音、どもり、不明瞭な声には対応できないし、画像認識では、ピンぼけ、位置ずれに気づかない人が撮影した写真に対応できないという課題がある。
そのため、発音が不明瞭な聴覚障害者が手話を使わずに声で話し、音声認識で文字化して別の聴覚障害者に伝える、といった使い方はうまく行かないこともある。

参考文献：Communications of the ACM『AI and Accessibility』

出力の信頼性（AIの信頼性）

聴覚障害者や視覚障害者のように、AIの入力ソース（音声、画像）を確認できない場合、自分の感覚器官と、出力の目視のダブルチェックができないため、AIの出力をそのまま信じてよいかどうか、すなわちAIの出力が正しいかどうかがわからないケースがある。そのため、AIの出力が自然なものであれば信じてしまう傾向にある。
例えば、聴覚障害者であれば、音声認識の出力が自然であれば信じてしまうし、視覚障害者であれば、画像認識の出力が自然であれば信じてしまう。そのため、AIは、出力が信頼できるものかどうか（信頼性）も同時に提示すると親切である。