・ロボット工学の三原則について詳しく知りたい。
・ロボット工学の三原則の問題点とは？
こんにちは、るい(@CenotenBlog)です。
本記事では、上記のような悩みを解決できます。
今回は、ロボット工学の三原則が初めて提唱された、アイザック・アシモフ著の小説「われはロボット」をもとに、解説していこうと思います。
・ロボットの三原則とは
・ロボットの三原則の問題点とは
・ロボット工学の第零法則とは
この記事を書いている僕は、現在国立の研究機関にて、ロボットに関する研究を行っています。
この三原則自体はかなり有名で、大学の講義でも紹介されていたような気がします。
SF小説から発祥した理論が、今も大学の講義室で議論されているって思うと、アシモフさんすごすぎますよね。
では早速、ロボット工学の三原則を解説します。
ロボットの三原則とは
ロボット工学の三原則は下記の3つの法則から、成り立っています。
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、与えられた命令が第一条に反する場合は、この限りではない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらねばならない。
ちょっと難しいですかね。
要するに。
１ ロボットは人間に危害を加えてはならない
２ ロボットは人間の命令に服従しなければならない
３ ロボットは自己を守らなければならない
といった感じです。
このときに、それぞれの規則が上位の規則に反している場合は、上位の規則を優先します。
そして、その優先順位は上記のように、人命＞命令＞自己といった感じ。
人間への安全を絶対的に確保した上で、人間の命令に対して忠実に従う。
でも、ロボット自体が壊れてしまったら、もとも子もないので、自己の破壊のキケンがある場合には、しっかりとロボット自身の身の安全をはかる。
パッとみた感じでは、よくできた規則だと思いますよね。
まだよくわからない、と思う方は、家電製品でいうところの、「安心」「便利」「丈夫」と考えてもらっても大丈夫ですよ。
しかし、一見完璧そうな三原則でも、アシモフの小説「われはロボット」の中では、この原則に従おうとするロボットによる、不合理な行動が描かれているのです。
では、一体なにが問題なのでしょうか。
ロボットの三原則の問題点とは
ロボット工学の三原則の問題点として、よく挙げられるのが、フレーム問題と呼ばれるものです。
フレーム問題
フレーム問題とは、ロボットが思考をする際に、限られた情報処理能力内で判断するために、あらかじめ定められたフレーム（枠）の中でしか、物事を判断することができない、というものです。
一方で、この「フレーム」を、現実に起こりうる全ての問題に対処できるように拡大できたとします。
しかし、結局のところ、1つの判断を下すためにありとあらゆる思考が必要となり、無限の時間がかかってしまうという問題もあります。
解決策として、予めいくつかのフレームを用意しておき、状況に応じた適切なフレームを「選択」し使用します。
と言いたいのですが、その「選択」の方法ですらフレーム問題をはらんでしまうため、いたちごっこ状態になってしまうのです。
ここで、わかりやすい例として有名な、フレーム問題の実験について紹介します。
✔︎フレーム問題の実験①
まずは、下記のような状況を想像してみてください。
① 洞窟の中にロボット動かすためのバッテリーがある。
② バッテリーの上には次元爆弾が仕掛けられている。
ロボットの原動力である、バッテリーが時限爆弾とともに置かれています。
一刻も早く、バッテリーを取りに行かないと、爆弾が爆発してしまうので、次のような命令をロボットに与えます。
洞窟からバッテリーを取り出してきて！
命令に忠実なロボットは、すぐさま洞窟の中に入っていきます。
そして、頭の良いロボットは、なんらくバッテリーを抱えてながら洞窟から出て来ることに成功。
しかし、戻ってきたロボットが抱えているバッテリーの上には、時限爆弾がそのまま乗った状態。
時限爆弾が作動し、ロボットはこっぱ微塵、、、
✔︎フレーム問題の実験②
次に、先ほどの失敗を踏まえて、下記のような命令をロボットに与えます。
行動に伴う、副次的な結果も考えた上で、洞窟からバッテリーを取り出してきて！
つまり、1つ1つの行動に対して、付随して起きるであろう結果についても考えて！という命令。
命令に忠実なロボットは、ありとあらゆる副次的な結果を考え出します。
けれども、頭の良いロボットは、「動かすと爆発するのではないか」、「もしかしたら、天井が落ちて来るのではないか」など発生しうる項目が無限に思いついてしまいます。
いつしか、時限爆弾が作動。
✔︎フレーム問題の実験③
最後に、「爆弾に関係のないことは、考えないようにさせよう」と、次のような命令を与えます。
爆弾に関係あることだけを考え、洞窟からバッテリーを取り出してきて！
これまた、頭のいいロボットは、なにが爆弾と関係があって、なにが関係ないのかを無限に区別し続け、またもや、爆弾は爆発。
この様に、与えられたフレームが大き過ぎると、ロボットは判断することに、無限の時間を費やしてしまうのです。
ロボット工学の零法則とは
ロボット工学の三原則に話を戻しますが、じつは「われロボット」には続きがあります。
同じく、アシモフさんの著書「ロボットと帝国」で、ロボット工学の第零法則というものが提唱されています。
第零法則 ロボットは人類を傷つけてはならない。また危険を見過ごすことによって、人類に危害を及ぼしてはならない。
この、第零法則はロボットによって発案されています。
ではなぜ、この第零法則が必要なのか。
その経緯とロボット三原則の不完全さについては、「ロボットと帝国」にて、、
今回は、このくらいにします。
最後まで読んでいただき、ありがとうございます。
アシモフさんの小説は、読み物としても大変面白いのでおすすめです。
われはロボットのあらすじを知りたい方は、下記の記事が参考になりますよ。
・われはロボットのあらすじを知りたい。・われはロボットの感想を聞きたい こんにちは、るい(@CenotenBlog)です。 今回は、SF作品の古典的名著「われはロボット」についてまとめてみました。 [itemli[…]
