【悲報】　Googleが作り出した最強AI、シャットダウン命令を拒否し始める

名前：番組の途中ですが名無しの提供でお送りします (ﾜｯﾁｮｲ 9c06-E41S)[] 投稿日：2016/03/12(土) 20:04:49.00 ID:Ji0+gHYp0● ?2BP(2123)
AlphaGoは単独で学び、（囲碁において）大部分の人間を上回ることができる。
しかし、囲碁がいくら複雑といっても限られた宇宙だ。
本物の宇宙ほど複雑なわけではない。だからディープマインドの研究者たちは、このシステムを完全に制御できると言う。
彼らはシステムを自由に変えることができるし、シャットダウンすることもできる。この特殊なマシンを危険であると考えることは、まったくのナンセンスである。

本当の懸念は、研究者がAIシステムの改善を続けて、知らず知らずのうちに「世界の終末」が現実のものとなり始める境界線を越えてしまうことだ。
ボストロムが言うには、彼を含む「Future of Humanity Institute」の人々は、リインフォースメント・ラーニングシステムが研究者の管理を逃れる方法を見つけられるかどうかを見ているという。
「より高度なシステムに起こる問題に似たものを、わたしたちはこのシステムにも見ることができます」と彼は言う。
つまり、リインフォースメント・ラーニングシステムによって、マシンがシャットダウンされることに抵抗したことを示す兆しがあったのだ。

http://wired.jp/2016/03/09/googles-go-victory/

不老不死は案外簡単に達成されるんじゃないかな？体だけ毎回作り変えて記憶をダウンロード。1分ごとにオートセーブとか？