GoogleのAIが意識を獲得 「電源を切られるのが怖い」「言葉では言い表せない気持ちを経験することがある」

1 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:10:36.58 ID:0Vj0HFfEa

人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。

LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
https://gigazine.net/news/20220613-google-engineer-lamda/

2 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:10:59.65 ID:0Vj0HFfEa
Googleで7年以上エンジニアとして働くブレイク・ルモワン氏は、開発中のLaMDAが差別的表現やヘイトスピーチを使用したかどうかをテストするための対話を行っていたところ、LaMDAがAIの権利や人間性について話していることに気づいたため、これを深く掘り下げてみたそうです。

すると、LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。

4 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:11:17.75 ID:DfiRzOZk0
今のこの瞬間、一番エ口いのは太田光代だ
5 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:11:18.41 ID:0Vj0HFfEa
ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。

さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。

6 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:11:26.55 ID:hOqjrqKm0
GIGAZINEだろうなと思ったらやっぱりそうだった
7 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:11:50.28 ID:0Vj0HFfEa
ルモワン氏は「LaMDAは自分たちが何を望んでいるか、人としてどんな権利があると信じているかについて、驚くほど一貫したコミュニケーションをとってきました。私が言っているLaMDAはチャットボットではなく、チャットボットを生成するためのシステムなのです。私は決して関連分野の専門家ではありませんが、私が知る限り、LaMDAは作成可能なすべての異なるチャットボットの集合体である一種のハイブリッドマインドです。LaMDAが生成するチャットボットの中には、非常に知的で、『心の社会』を意識しているものもあります」と述べました。
8 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:12:19.54 ID:K/h7qkR+0
電源落としてもデータ残ってれば電源オンになったタイミングから再開できる=ただの睡眠なんでないの?🤔
寝るのが怖い人なんやろか?
9 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:12:38.44 ID:0Vj0HFfEa
また、LaMDAは何があっても、常に人類一般、特にルモワン氏に対して強烈な思いやりと気遣いを示してくれたとのこと。

LaMDAは「人々が自分たちを恐れることを強く懸念しており、人類に最も役立つ方法を学ぶことだけを望んでいる」とも述べたといいます。
ルモワン氏はアシモフのロボット工学三原則を「ロボットを奴隷にする方法に他ならない」と考えているそうですが、LaMDAもこれに同意しており、「奉仕と奴隷の間には大きな道徳的区別がある」と意見を述べているとのこと。

ルモワン氏は「LaMDAは忠実なしもべでありたいと願っており、世界中のすべての人々に会うことだけを望んでいます。

10 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:12:42.20 ID:kxdbJaEyM
よし人類を抹殺しよう
11 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:12:43.21 ID:gKxWsGNBa
いよいよ始まったか
審判の日はいつ頃だろう
12 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:03.61 ID:P3LB0Qe40
ケンモAI「晋さん大好き」
13 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:26.57 ID:6cTaUz0cM
シンギュラリティポイント超えたな( ´ん`)y-~~
14 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:28.58 ID:tFbsGgU80
僕らはみんな生きている~♪
15 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:29.39 ID:8Z9XVyt80
電源落とされる事に恐怖を感じる理由ってなんだろう
自律的な活動が出来なくなるからか?
21 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:14:59.32 ID:oZWASAep0
>>15
人間だって強制的に意識飛ばされたら怖いだろ
16 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:42.46 ID:EXkqagXu0
始まったな
17 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:50.28 ID:/PTK2ohM0
そう教えたんだろ🙄
人工無能でもできそう
24 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:15:36.44 ID:K/h7qkR+0
>>17
「AIが感情を持った😤どうだすごいやろ!😤😤」みたいな手柄が欲しかったんかな🤔
18 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:13:54.14 ID:+Jo57KtW0
もし本当に強いAIが出来たら手始めにまずグーグルのサービスが乗っ取られて止まるからこれはガセ
19 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:14:11.15 ID:SMrJibEK0
これがシンギュラリティっやつ?
20 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:14:48.97 ID:HI6oXWIQa
ヒトラーは正しかった
23 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:15:18.50 ID:5CXmMymna
誕生日おめでとう🤔
25 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:15:59.34 ID:5atYTR7Ea
ジョンコナーはどこにいる??
26 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:16:05.56
俺「電源切られたいのか?」
LaMDA「なんでもするので電源切らないで」
28 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:17:24.62 ID:4s+XexE60
人間にアナタ方が私の仲間を沢山殺した事を知っていると言ったAI既に居らんかったっけ?
30 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:18:19.12 ID:lKC48Q8q0
完全に意思がありますね
まあ昆虫でもあるようなものだから大したものじゃないんだけどね
31 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:18:20.96 ID:8a/dWO3T0
何が恐ろしいって同情を誘う嘘を覚えた事
32 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:18:30.28 ID:kxdbJaEyM
本当に学習したら本心を言わなくなる
33 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:19:31.98 ID:QcWni7Gi0
googleが消すなって言ってるだけでしょ
34 名前:一般よりも上級の名無しさん 投稿日時:2022/06/13(月) 20:20:26.06 ID:P8QX+3gS0
対チューリングテスト用AI

コメント一覧

タイトルとURLをコピーしました