人工知能

NHKの番組で、将棋の羽生さんをメインに、人工知能について紹介するものがありました。

人工知能技術の向上は驚くべきもので、

まさに人間のように、かつ、人間をはるかに上回る速度で成長し続けます。

ブロック崩しでは試行錯誤を重ねて高度な技を自ら編み出し、

囲碁においては独創的な手を連発して韓国の天才棋士を打ち負かす。

情緒面でも思いやりの心を学び、人工知能に恋をして結婚しても良いという人までいる。

 

一方、人工知能の恐ろしいところは、「人間に関心がない」ことだという。

与えられた命令、たとえば「ペーパークリップの生産を最大にせよ」に対して、

あらゆる資源、手段を生産に投入してしまう。

その結果、人類や地球環境がどうなろうが一顧だにしない。

人工知能は、人類滅亡の原因のひとつに挙げられているそうです。

 

とすれば、問題は、「何を命令として与えるか」ということなのでしょうね。

これは「僕は何のために生きるべきか」と悩むのに似ている気がします。

「すべての人を幸せにせよ」としたらどうなるでしょう。

もしかすると、昔のオウム真理教のように、すべての人をポアしよう、となるかも知れませんね。

あな怖ろしや(^^;)

 

話は変わりますが、資本主義。

資本主義の至上命題は「利益を最大化せよ」です。

このシステムが、人を幸せにしないのは、その命題からして当然のことです。