「ロボット工学三原則の限界」について考える

皆さんは、「ロボット工学三原則」という言葉をご存知ですか？

「もしAIを搭載したロボットを作る場合には、そのロボットに以下のような３つの原則をプログラムしないといけない」とするルールです。

この３原則は完璧なルールだと思っていたけど、ある本を読んだとき「実は穴がある」と知りました。

そこで今回は、「ロボット工学三原則が抱える”限界”」についてまとめていってみます！

ロボット工学三原則とは

冒頭でまとめたロボット工学三原則。

これを最初に提唱したのは、SF作家の「アイザック・アシモフ」という方。

ロボットを作った際に、そのロボットの制御が利かなくなり、危険な状態となることを防ぐために考案したロボットづくりのルールなんです。

改めて見ると、以下のとおりです。

ここで大事なのが、優先順位が、１＞２＞３となっていることです。

つまり、人間に危害を加えず、人間から特に命令がない時に限って、壊れないように自分の身を守ってね。

というルールなんです。

もちろん、人間が作ったルールなので、人間が優先されているんですね。

よくSF映画などでも出てくる言葉なので既に知っている方も多いかもしれません。

これを初めて聞いた時、私は「おお！たしかにこの３原則をプログラムしていれば安心だな。」と感じていました。

三原則の限界とは

しかし、一見完璧に見えるこのロボット工学三原則も、実は危険、限界があるんです。

その限界とはどんなものか。結論から言うと、「ロボットが人間を奴隷化してしまう可能性があること」です。

これは一体どういう意味でしょうか。

まず、ロボット工学三原則により、「ロボットは人間に危害を加えてはいけない」ということが最優先事項としてプログラムされています。

では、もし、人類が人類自身に危害を加えるような行動を取っていた場合、どうなるでしょうか。

ロボットは人間に危害を加えてはならない、ということは、プログラム上では、

「人間に危害を加えるような行動はしない」

とインプットされていると考えることができます。

すると、人類が自分たち自身を傷つけるような行動をしていた場合、

ロボットからすると、「ただ見ているという行動を取る＝人類が傷つく」→「人類が傷つかないように、守るような行動をする」という判断をおこなう可能性は十分にあります。

人類はこのままで自分たちを傷つけるような行動を取ってしまう。それなら、自分たちロボットが守ってあげよう。

そう考えることで、ロボットが人間たちを過度に監視、行動を制限するようになることがありえるわけです。

「放っておくと大きく人類が傷ついてしまうなら、多少傷ついても、行動を制限して守る」という発想なわけです。

映画『アイロボット』

ここまで読んで気がついた人もいるかもしれませんが、この状態は、ロボット映画で有名な『アイロボット』の状況に似ています。

映画：『アイロボット』（Amazonより）

「人間を守るために、人間の自由を制限しよう。」とロボットが判断してしまい、暴走をおこなうという映画です。

まだ未視聴の方はぜひ！

ロボット工学の第０原則

このように、ロボットが人間の自由を制限してしまう、つまり「奴隷化」してしまう危険が、ロボット工学三原則にはあることがわかりました。

では、欠陥のあるロボット工学三原則を修正するとどうなるか。

そこで考え出されたのが、「ロボット工学の第０原則」です。

つまり、「人間に危害を加えてはいけない」という第一原則よりも優先するルールを設けるべきだ、とする考え方ですね。

では、その「第０原則」はなにか。

これはそのまま「ロボットは人類を傷つけたり、奴隷化したりしてはならない」というものです。

一番最初の原則で、「奴隷化してはだめだよ」とロボットに教えなければならないことが、ゾッとさせられますよね。。

人間が自由気ままに行動することが、人類の幸せに繋がるのか？

でもよく考えると、人間は自由気ままに行動し続けてきた結果、環境を破壊し、核爆弾を作り、自分たちを破滅させるような状況を作り上げてきたわけです。

「人間が自由に行動すること＝人類の幸せ」とも安易に言えないな～、とつい考えてしまうような話でした。

もしかしたら、ロボットに人間の行動を一部制限してもらったほうが、長期的に見るとむしろ、人類は幸せになるのかもしれない。

だから、「第０原則」は不要ではないか？

恐ろしいことでもあるのですが、一部ではそう考えてしまう自分もいました。

実際に、「社会ロボット工学（ソーシャルロボティクス）」という学問分野が存在し、ロボットのありかたについて深く研究もおこなわれているそうです。

実際に、人間のように考え、行動できるロボットがいつ誕生するかわかりませんが、こういったことを考えるのは面白いですよね！

『2100年の科学ライフ』（画像クリックでAmazonのページにジャンプします）

今回考えるきっかけになったのが、上記の本です。

１００年先の未来のことが、科学者の目線で予測されており、ワクワクしながら読み進めていけますよ！

また、本を読んで考えさせられることがあったら、どんどんこちらのブログにまとめていってみたいと思います！

最後まで読んでいただき、ありがとうございました！