【バーチャルスラムとは】AIによって生まれる「新たな貧困」

「バーチャルスラム」という言葉を聞いたことがあるでしょうか。

どんな言葉かと言うと、「AIが発達した社会に起きる問題」のことです。

以下の本でこの話を初めて知り、とても考えさせられたので、記事にまとめていってみます！

参考文献：『アフターデジタル』（画像クリックでAmazonのページにジャンプします）

バーチャルスラムとは

まず、バーチャルスラムとは何でしょうか。

結論から言うと、「AIによって低評価をされ、そこから抜け出せない状態」のことです。

詳しく解説します。

AIが発達した現代では、「ユーザーの行動を分析して、スコアを付け、良い人・悪い人を識別できるようにしよう」という発想が生まれています。

日本にいると、「AIによって点数をつけられるなんて、、なんか怖いな。」という印象を受けるかもしれませんが、

しかし、中国ではすでに「国民をスコア化する」という制度が普及しています。

そして、高得点を取った人、すなわち、「AI上では良い人」とされる人だけが受けられるサービスなどがあったりするんですね。

これだけを聞くと、「良い人が報われる社会」と見えて、良いことに思えるかもしれません。

しかし、もし、AIによって「お前は悪い人だ。」という判断を受けてしまった場合は、どうなるでしょうか。

AIはブラックボックス

たとえば、軽犯罪を犯して捕まったことがある人は、「まあ、そりゃあ、自分は低い点数だよね。」と納得できると思います。

しかし、もし、「AIに悪い点数をつけられたけど、その理由がよくわからない・・・。」という人がいた場合、どうなるでしょうか。

当然、「なんで自分は低い点数なんだよ！」と、その理由を知りたくなりますよね。

しかし、ここで大きな問題なのが、「AIはブラックボックス」である、ということです。

つまり、「AIが下した判断は、『なぜそうしたのか』という理由が誰もわからない」という状態なんですね。

言い換えると、「自分が悪い点数を付けられた理由が、誰に聞いてもわからない。」ということです。

こうなると、「悪い点数をつけられた理由がわからない」という人は、そこから抜け出し、「良い人」認定されることが非常に厳しくなります。

なぜなら、「何をやめて、何をすれば高得点が付けられるのか。」がわからないからです。

・・・このように、「AIによって低評価をされ、そこから抜け出せない状態」のことを「バーチャルスラム」と呼び、多くの科学者達が危険性を感じているんです。

アルゴリズムフェアネスという課題

AIを使った経験がある人はよくわかると思いますが、最近はプログラミングで、「無料でAIを使った分析」ができたりします。

そして、実際に使ってみると、「答えはこれです。」とAIが教えてくれるものの、なぜそうなっているのかわからない。

なぜなら、それは「アルゴリズム」によって、計算されているから、ということなんです。

たしかに、下した判断の理由が明確にわからない以上、「AI・アルゴリズム自体が間違っている」可能性も十分にあるわけです。

そこで欧米では今、「アルゴリズム・フェアネス」という課題が議論されています。

これは、「そのアルゴリズムが本当に”公正”なのか」を考えていくことです。

きちんと、アルゴリズム・フェアネスを議論し尽くしたうえで「AIによるスコアリング」を導入しなければ、社会にたくさんの「バーチャルスラム」が生まれてしまう。

だからこそ、予めこうした議論をしっかりとしておく必要があるんですね。

ここで特に大事な箇所が、

「そのアルゴリズムが正しいのか」という議論ではなく、

「そのアルゴリズムが公正なのか」と議論している、

ということです。

何が言いたいとかというと、もはや人間は、「AIのアルゴリズムが正しいか、誤っているのか」を知ることができないということです

そのため、AIが下す判断を見ていき、「人間の感覚からしても、その判断は正しいよね。公正だよね。」と評価をするしかない、ということです。

つまり、処理自体を評価するのではなく、出てきたアウトプットだけを見て、そのAIが適切かどうかを判断するしかないということですね。

ここにも１つ、いかにAIが高度で、その考えが人間の手に負えなくなっているのか、という点を感じますよね・・・！

まとめ

今回は、「バーチャルスラム」と「アルゴリズムフェアネス」についてまとめてみました。

「AIによって人に点数をつける」というと、「そんなことはとんでもない！」と感じる人も多いかと思います。

しかし、中国ではこの仕組を導入することで、治安がぐっとよくなり、更には「善良な人がこれまで以上に良いサービスを受けられる」という社会が実現した、ということは事実です。

新しい技術を拒むのではなく、きちんとルールを設けた上でうまく社会で機能させることが重要だと思っています。

参考文献：『アフターデジタル』（画像クリックでAmazonのページにジャンプします）

最後まで読んでいただき、ありがとうございました！