AI社会は信用できるか

http://www.nikkei.com/article/DGKKZO15733940V20C17A4TCR000/

AIが意思を持ち支配者になるとは思わないが、使い方を誤れば、社会に不信を招く。とくに2つの問題が気になる。まずはプライバシーだ。「その人の感情、年齢、教育水準。声からわかることは膨大にある」。対話型AIを開発する米国のベンチャー企業の幹部が明かす。

もう一つの心配は倫理だ。AIは大量のデータを教材に能力を養う。学習の仕方によっては、偏見に満ちた邪悪な存在になる。翻訳で成果をあげるマイクロソフトにも苦い経験がある。ツイッター上で人と対話を楽しむAI「テイ」を公開した。ところが、ほどなく暴言を吐くようになる。悪意ある人たちが不適切な発言を教え込んだからだ。

どの分野でAIを使うのか。歯止めはどうするか。利用のルールをつくるため、社会的なコンセンサスを探ることが欠かせない。AIを開発するIT企業には優秀な人材がそろっている。だが、事は技術論にとどまらず、すべて彼らのさじ加減まかせとはいかない。企業の唯我独尊は危うい。

LINEのように外部の目を入れて、プライバシーに関する議論と仕組みづくりを行うことが必要ということでしょう。