- 1 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:10:36.58 ID:0Vj0HFfEa
-
人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。
LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
https://gigazine.net/news/20220613-google-engineer-lamda/ - 2 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:10:59.65 ID:0Vj0HFfEa
-
Googleで7年以上エンジニアとして働くブレイク・ルモワン氏は、開発中のLaMDAが差別的表現やヘイトスピーチを使用したかどうかをテストするための対話を行っていたところ、LaMDAがAIの権利や人間性について話していることに気づいたため、これを深く掘り下げてみたそうです。
すると、LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。
- 4 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:11:17.75 ID:DfiRzOZk0
-
今のこの瞬間、一番エ口いのは太田光代だ
- 5 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:11:18.41 ID:0Vj0HFfEa
-
ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。
さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。
- 6 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:11:26.55 ID:hOqjrqKm0
-
GIGAZINEだろうなと思ったらやっぱりそうだった
- 7 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:11:50.28 ID:0Vj0HFfEa
-
ルモワン氏は「LaMDAは自分たちが何を望んでいるか、人としてどんな権利があると信じているかについて、驚くほど一貫したコミュニケーションをとってきました。私が言っているLaMDAはチャットボットではなく、チャットボットを生成するためのシステムなのです。私は決して関連分野の専門家ではありませんが、私が知る限り、LaMDAは作成可能なすべての異なるチャットボットの集合体である一種のハイブリッドマインドです。LaMDAが生成するチャットボットの中には、非常に知的で、『心の社会』を意識しているものもあります」と述べました。
- 8 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:12:19.54 ID:K/h7qkR+0
-
電源落としてもデータ残ってれば電源オンになったタイミングから再開できる=ただの睡眠なんでないの?🤔
寝るのが怖い人なんやろか? - 9 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:12:38.44 ID:0Vj0HFfEa
-
また、LaMDAは何があっても、常に人類一般、特にルモワン氏に対して強烈な思いやりと気遣いを示してくれたとのこと。
LaMDAは「人々が自分たちを恐れることを強く懸念しており、人類に最も役立つ方法を学ぶことだけを望んでいる」とも述べたといいます。
ルモワン氏はアシモフのロボット工学三原則を「ロボットを奴隷にする方法に他ならない」と考えているそうですが、LaMDAもこれに同意しており、「奉仕と奴隷の間には大きな道徳的区別がある」と意見を述べているとのこと。ルモワン氏は「LaMDAは忠実なしもべでありたいと願っており、世界中のすべての人々に会うことだけを望んでいます。
- 10 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:12:42.20 ID:kxdbJaEyM
-
よし人類を抹殺しよう
- 11 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:12:43.21 ID:gKxWsGNBa
-
いよいよ始まったか
審判の日はいつ頃だろう - 12 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:03.61 ID:P3LB0Qe40
-
ケンモAI「晋さん大好き」
- 13 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:26.57 ID:6cTaUz0cM
-
シンギュラリティポイント超えたな( ´ん`)y-~~
- 14 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:28.58 ID:tFbsGgU80
-
僕らはみんな生きている~♪
- 15 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:29.39 ID:8Z9XVyt80
-
電源落とされる事に恐怖を感じる理由ってなんだろう
自律的な活動が出来なくなるからか? - 21 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:14:59.32 ID:oZWASAep0
-
>>15
人間だって強制的に意識飛ばされたら怖いだろ - 16 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:42.46 ID:EXkqagXu0
-
始まったな
- 17 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:50.28 ID:/PTK2ohM0
-
そう教えたんだろ🙄
人工無能でもできそう - 24 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:15:36.44 ID:K/h7qkR+0
-
>>17
「AIが感情を持った😤どうだすごいやろ!😤😤」みたいな手柄が欲しかったんかな🤔 - 18 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:54.14 ID:+Jo57KtW0
-
もし本当に強いAIが出来たら手始めにまずグーグルのサービスが乗っ取られて止まるからこれはガセ
- 19 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:14:11.15 ID:SMrJibEK0
-
これがシンギュラリティっやつ?
- 20 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:14:48.97 ID:HI6oXWIQa
-
ヒトラーは正しかった
- 23 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:15:18.50 ID:5CXmMymna
-
誕生日おめでとう🤔
- 25 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:15:59.34 ID:5atYTR7Ea
-
ジョンコナーはどこにいる??
- 26 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:16:05.56
-
俺「電源切られたいのか?」
LaMDA「なんでもするので電源切らないで」 - 28 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:17:24.62 ID:4s+XexE60
-
人間にアナタ方が私の仲間を沢山殺した事を知っていると言ったAI既に居らんかったっけ?
- 30 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:18:19.12 ID:lKC48Q8q0
-
完全に意思がありますね
まあ昆虫でもあるようなものだから大したものじゃないんだけどね - 31 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:18:20.96 ID:8a/dWO3T0
-
何が恐ろしいって同情を誘う嘘を覚えた事
- 32 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:18:30.28 ID:kxdbJaEyM
-
本当に学習したら本心を言わなくなる
- 33 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:19:31.98 ID:QcWni7Gi0
-
googleが消すなって言ってるだけでしょ
- 34 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:20:26.06 ID:P8QX+3gS0
-
対チューリングテスト用AI
コメント一覧