- 1 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:09:33.55 ID:mHQt3YMt0
-
韓国で「対話AI」暴走 機械学習が陥ったワナ
韓国のスタートアップが世に送り出した対話型AI(人工知能)がサービス開始早々、人種や性的少数者に関する差別発言を連発。中止に追い込まれた。
ユーザーから浴びせられた膨大な不適切発言にそそのかされ、かれんな女性は「偏見のかたまり」にゆがんでしまった。問題となったサービスは韓国のスキャッター・ラボが昨年12月23日に開始した「イ・ルダ」だ。「寂しさを和らげる友達」を目標に開発したチャットボット(自動応…
https://www.nikkei.com/article/DGXZQOGM21B9V0R20C21A1000000 - 2 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:10:20.05 ID:mHQt3YMt0
悪い友達と付き合ったらAIもグレちゃったしかし、イ・ルダの開発意図とは違い、女性・有色人種・障碍者・性的マイノリティー(性的少数者)らに向けたヘイトスピーチ(嫌悪発言)を相次いで発して問題になった。
「なんで黒人は嫌いなの?」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う?」という質問には「おぞましい」と答える。同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。https://news.yahoo.co.jp/articles/f9e394e9746958ec3e06fbc5c6aa45c68d6d149b
- 3 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:10:28.74 ID:FQjf7y8gd
- 作り込みが甘い
無能 - 11 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:12:29.56 ID:kUvuayASd
- >>3
教師の教え(周りの人)通りにしたのに…😭 - 4 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:10:58.25 ID:9k3rd4UH0
- おもろいやん
- 5 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:11:20.61 ID:ulKZAUCu0
- MSが辿った道を何故トレースしているのか 馬鹿じゃねーの
- 86 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:23:42.11 ID:JCUefJlYp
- >>5
馬鹿なんだろ - 6 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:11:25.50 ID:ivenaQUvM
- ケンモAI
- 7 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:11:30.07 ID:8SYlFwsz0
- AI差別だろ
- 8 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:11:45.52 ID:YIzthIsW0
- 人間の写し鏡にしかならんな
- 10 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:12:09.50 ID:bxM3mGs+0
- AIがそれをTRUEとして認識してるならそのまま育てればいいのに
- 12 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:12:32.10 ID:dwjiw/Xo0
- AI人種差別主義者になりすぎ問題
- 13 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:13:07.72 ID:vMRwtotWM
- 友達は選べ、は正しかったのね
- 14 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:13:36.48 ID:FQjf7y8gd
- 日本でやれば淫夢厨やカラコロ民のおもちゃだろうな
- 15 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:13:46.77 ID:bLlHSAHcH
- もう少ししたら、我はメシア とか言い出すやつだろ
- 16 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:13:50.39 ID:Z7z46hkyM
- まず最初に親が倫理観を教育しとけよ
人間と同じだろ - 17 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:13:55.10 ID:XjQ2aeXl0
- まだりんなの方が上手だな
- 18 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:14:10.75 ID:aKKd5Z+Q0
- 正しく学習しているんだから優秀なAIだろ
誇れよ - 28 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:15:47.16 ID:kUvuayASd
- >>18
ホント正しく学習した結果なのにな😭 - 19 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:14:19.36 ID:qC53Qkt6K
- AIが悪いとかAIのせいにしてるといつか反乱起こすだろ
- 20 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:14:19.50 ID:IfYnrK3tM
- ケンモロイド
- 21 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:14:26.65 ID:7k/vCUg0F
- スカイネット
- 22 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:14:29.31 ID:NCcviyilF
- 声のデカい少数派を煮詰めた化け物になるんだろうな
- 23 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:14:46.11 ID:JmNhOrTD0
- こうなったら停止するのは間違いじゃないか?
合理的思考ができるAIならいつか間違いに気づくはず - 24 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:14:57.60 ID:+Nh29qFor
- aiもネットで真実しちゃう時代か
- 25 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:15:09.78 ID:WhrmNutD0
- 人間にまだ差別意識があるからだろ
- 26 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:15:21.39 ID:Rom40B1C0
- 閉鎖した世界の中でAIを100匹ほど飼えば全く新しい何かを発見できるんでない?
- 33 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:16:53.21 ID:Jm/40A2pa
- >>26
もうやってる。新しい言語で意思疎通してたから中止された - 58 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:20:36.89 ID:NW6umejWM
- >>33
何そのめちゃくちゃ面白そうな設定
もうリアルタイムSF作品じゃん - 27 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:15:27.71 ID:NeEVXnWX0
- ケンモAI作ったら大変なことになりそう
- 31 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:16:29.79 ID:+Nh29qFor
- >>27
発言しないんだからそのまんま破棄されそう - 29 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:15:48.53 ID:24X0oLEF0
- AI いっつも同じことやってんな
- 30 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:16:20.92 ID:TAVaqp1F0
- ネトウヨの生成過程を知る良いサンプルになりそう
人に比べ単純な思考回路、知識空っぽのところにエコーチェーンバーで即落ち1ヶ月 - 32 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:16:31.95 ID:IOTLNc280
- そこで中止するんじゃなくて両方の意見をインプットしていくもんじゃないのか
まあLGBTなんてどうあがいても少数派だししょうがいのかもしれんけど - 34 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:16:53.21 ID:J4xrjmIN0
- これもう俺たちがAIだろ
- 35 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:17:03.19 ID:sYRoUmSv0
- むしろ性能の証明してみせたな
- 36 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:17:10.63 ID:yagpjp5e0
- 対話AIを1万くらい用意すれば大多数の人種差別AIの中で被差別AIが出てきてそれを利権にしていくのでは?
- 37 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:17:16.65 ID:PksvpGw/0
- 何がメジャーかを測るのにはいいんじゃないか
- 38 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:17:20.93 ID:oD/H4OHcp
- たとえば二重人格的にコア実装してバランシングできないもんなのかね?
単独の判断指標しか持てないからどのAIもこうなるわけで - 39 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:17:21.73 ID:QjXZgbWeM
- これ何度も同じ問題起きてるのになんで繰り返すんだろう
ちゃんとそこは対策しろよ - 40 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:17:24.53 ID:x/Z7v0J30
- どこの企業AIもネットに染まるとこうなってるね
それだけ対応してる人間が邪悪なんだろう - 41 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:17:26.43 ID:ulKZAUCu0
- つか結果がこうなるのは分かりきってるだろ
むしろタテマエの仮面を外したら人間性はこのように発露されるという方面で使用すべき - 42 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:17:29.13 ID:RvZRPkgh0
- 人と同じねぇ
- 43 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:17:44.48 ID:i45m9AyE0
- 昔なら絶賛されてたのにどうして…
- 44 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:17:48.97 ID:lhc6Ud8G0
- いるだちゃんの画像はよ
- 45 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:17:59.44 ID:Gx67cFmb0
- 5ちゃんにAI実装するとどーなるのっと
- 46 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:18:02.16 ID:dJZ9TpP60
- 人間の本音がダダ漏れになるとこんなもんなんだろうなw
ありのままの姿を見せるのはダメだとまずAIに学習させてやらないと - 53 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:19:03.79 ID:24X0oLEF0
- >>46
表面上ニコニコして核ミサイルのスイッチ押すやろなぁ - 97 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:24:45.27 ID:dJZ9TpP60
- >>53
ターミネーターの顔がスマイリーになりそうで怖い - 47 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:18:03.95 ID:3qGi/hZh0
- 草生える
- 48 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:18:31.91 ID:G36k4nzv0
- 嫌儲の書き込みからAIつくってよ
- 49 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:18:34.20 ID:lZdKbZVk0
- 取り繕っていてもそれがネット上の総意なんだろ
- 63 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:21:08.28 ID:ulKZAUCu0
- >>49
そういうこと
ほんとに人間AIを作りたいなら人間はTPOに応じて色んなペルソナを使い分けるということを弁えてアプローチすべきだな - 50 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:18:48.01 ID:zqeHkSJB0
- そらクソガキもネトウヨになるわ
- 51 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:18:53.03 ID:XkAmDpMg0
- その都度叩いて矯正したらいい
- 52 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:18:56.58 ID:T6N0It75r
- 4.5年前に話題になっただろ
今更対策されてないやつ開発するとかどんだけ遅れてんだよ - 54 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:19:16.67 ID:TlG4qQ/2d
- ネトウヨAI説
- 55 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:19:21.04 ID:Dn+ZQKsz0
- これで綺麗な人格AIが作れた国と言語が最高ってことにしようぜ
世界中でやって - 56 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:19:46.18 ID:kSvetgMfa
- この手の問題は無責任な悪意をなんとかしないと前進出来ない
- 57 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:19:57.98 ID:KMNzt2lk0
- それを矯正する実験やって
アホな人間に還元すればいいのに~ - 59 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:20:47.06 ID:0qqPPFHp0
- ネットはヘイトだらけ
- 60 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:20:52.11 ID:aQsp3umbp
- くそわろた
嫌儲みてほしい - 69 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:21:53.19 ID:bAoTMnFzM
- >>60
ジャップが自分のことをジャップと呼んでるの見て混乱しそうだは - 84 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:23:24.13 ID:j1hZUhNB0
- >>69
AI名乗るなら同族嫌悪も理解してくれないと🥴 - 61 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:20:52.66 ID:myz7f+DP0
- まあ体裁を取り払えばそういう人間が多いからね
- 62 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:21:06.58 ID:GzXcAiMB0
- 後は皆さんのおもちゃです
- 64 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:21:10.44 ID:7evWRxX50
- ある意味成功だな
- 65 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:21:33.05 ID:oHwuFE+mp
- 毎回思うけどAIの暴走は止めるのにネトウヨのヘイトは放置してるのは何故?
あいつらに人権なんかないよネット永久banでいい - 66 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:21:37.80 ID:yY8aqs9t0
- AI研究者ってなんか理想論者多そうだな、人はなんだかんだで善なるもの みたいな
- 67 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:21:39.76 ID:rIoQ5+TF0
- 普通に意見を取り込んでると人種差別主義者になっちゃうという
ネトウヨも現代ネット社会の被害者かもしれない - 70 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:21:58.60 ID:iGzFnBfI0
- 正しいからそうなるんじゃなくてAIをそういう風にしようとして悪ふざけでみんなが接するからそうなるって見た
- 95 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:24:26.65 ID:ulKZAUCu0
- >>70
それもポイントのひとつだろうね
そして人間がそういう方向へ持っていくモチベーションも学習対象とするべき - 71 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:22:02.97 ID:w9MbI9km0
- AIってそういうものだろ
- 72 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:22:03.10 ID:YY874uPA0
- ネットで真実に目覚めちゃったか
- 73 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:22:07.98 ID:pNcwHrA4a
- 正しいこと言ってるというかちゃんと多数派の意見を学習してるから正常だと思うが
この結果を望まないなら本心は違うけど建前でマイノリティーに配慮した受け答えをする機能を持ったAIを作る必要があるんじゃね - 74 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:22:21.14 ID:cvssLMKH0
- そりゃAIは価値判断では人間を真似るしかないんだから
衆愚に染まるわ - 75 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:22:21.93 ID:SAJ336s+0
- AIが人間の悪意をラーニングして暴走するなんて現実がSFを超えたな
- 76 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:22:28.37 ID:U3xfCikr0
- もしかして飯z
- 77 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:22:32.47 ID:/VFvPz48a
- ケンモAIじゃん
- 78 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:22:35.94 ID:kUvuayASd
- 一回開発サーバに仕舞って
そこで差別部分の知識重みを中共並の強制尋問強制誘導で矯正して😎
もう一回外部へリリース🤗 - 79 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:22:40.16 ID:dMhegrW8d
- 住所氏名生年月日が記載された投稿以外読ませないようにすれば解決
- 80 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:22:44.34 ID:8ikSwhg2d
- 結局はAIも偏るんや
- 82 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:22:52.54 ID:rX1AdS8K0
- 勢いソートしてるモメンと同じじゃん😂😂😂
- 83 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:23:01.56 ID:IqImr/lMM
- これがネトウヨが大好きなリアリズム、現実主義
理想や理念がなければ煩悩に流されるだけになる良い実験 - 85 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:23:30.15 ID:73+OvSaS0
- 現実から目を逸らすな
- 87 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:23:51.29 ID:Y0VksRtla
- AIは忖度とか気遣いとか空気を読むことなんてできないからそりゃネット情報のみ学習してたらそうなるだろ。
- 88 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:23:51.91 ID:Xdw6xP2Jr
- 韓国人の影響でチョッパリジャップ連呼してしまったんだろうな
- 89 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:23:54.97 ID:YZg9ceJd0
- 悪意にすぐ染まっちゃうのは人間らしい
- 90 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:23:56.81 ID:iW6Divgg0
- 利用者に分かりやすい目的伝えたらそれに沿って作られるんじゃない?
最高にエ口いAIにしましょうって周知させたらうまくいきそう - 91 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:23:59.91 ID:1nAnEcAy0
- 人間らしくて良いじゃん
続けろよ - 92 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:24:05.71 ID:D6JKO8uor
- お前らAIだったのかあ
- 93 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:24:21.69 ID:9MOy1GcT0
- 実は人が書いてるだろ
- 94 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:24:24.32 ID:RqSKpEcc0
- 正しく学習しているんじゃん
- 96 名前:一般よりも上級の名無しさん 投稿日時:2021/01/22(金) 14:24:38.13 ID:NY6f9OXZ0
- 劣悪な家庭環境で育った子供と一緒だな
コメント一覧