-
韓国で「対話AI」暴走 機械学習が陥ったワナ
韓国のスタートアップが世に送り出した対話型AI（人工知能）がサービス開始早々、人種や性的少数者に関する差別発言を連発。中止に追い込まれた。
ユーザーから浴びせられた膨大な不適切発言にそそのかされ、かれんな女性は「偏見のかたまり」にゆがんでしまった。問題となったサービスは韓国のスキャッター・ラボが昨年12月23日に開始した「イ・ルダ」だ。「寂しさを和らげる友達」を目標に開発したチャットボット（自動応…
https://www.nikkei.com/article/DGXZQOGM21B9V0R20C21A1000000
悪い友達と付き合ったらAIもグレちゃったしかし、イ・ルダの開発意図とは違い、女性・有色人種・障碍者・性的マイノリティー（性的少数者）らに向けたヘイトスピーチ（嫌悪発言）を相次いで発して問題になった。
「なんで黒人は嫌いなの？」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う？」という質問には「おぞましい」と答える。同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。https://news.yahoo.co.jp/articles/f9e394e9746958ec3e06fbc5c6aa45c68d6d149b
- 作り込みが甘い
無能 - >>3
教師の教え(周りの人)通りにしたのに…😭 - おもろいやん
- MSが辿った道を何故トレースしているのか 馬鹿じゃねーの
- >>5
馬鹿なんだろ - ケンモAI
- AI差別だろ
- 人間の写し鏡にしかならんな
- AIがそれをTRUEとして認識してるならそのまま育てればいいのに
- AI人種差別主義者になりすぎ問題
- 友達は選べ、は正しかったのね
- 日本でやれば淫夢厨やカラコロ民のおもちゃだろうな
- もう少ししたら、我はメシア とか言い出すやつだろ
- まず最初に親が倫理観を教育しとけよ
人間と同じだろ - まだりんなの方が上手だな
- 正しく学習しているんだから優秀なAIだろ
誇れよ - >>18
ホント正しく学習した結果なのにな😭 - AIが悪いとかAIのせいにしてるといつか反乱起こすだろ
- ケンモロイド
- スカイネット
- 声のデカい少数派を煮詰めた化け物になるんだろうな
- こうなったら停止するのは間違いじゃないか？
合理的思考ができるAIならいつか間違いに気づくはず - aiもネットで真実しちゃう時代か
- 人間にまだ差別意識があるからだろ
- 閉鎖した世界の中でAIを100匹ほど飼えば全く新しい何かを発見できるんでない？
- >>26
もうやってる。新しい言語で意思疎通してたから中止された - >>33
何そのめちゃくちゃ面白そうな設定
もうリアルタイムSF作品じゃん - ケンモAI作ったら大変なことになりそう
- >>27
発言しないんだからそのまんま破棄されそう - AI いっつも同じことやってんな
- ネトウヨの生成過程を知る良いサンプルになりそう
人に比べ単純な思考回路、知識空っぽのところにエコーチェーンバーで即落ち1ヶ月 - そこで中止するんじゃなくて両方の意見をインプットしていくもんじゃないのか
まあLGBTなんてどうあがいても少数派だししょうがいのかもしれんけど - これもう俺たちがAIだろ
- むしろ性能の証明してみせたな
- 対話AIを１万くらい用意すれば大多数の人種差別AIの中で被差別AIが出てきてそれを利権にしていくのでは？
- 何がメジャーかを測るのにはいいんじゃないか
- たとえば二重人格的にコア実装してバランシングできないもんなのかね？
単独の判断指標しか持てないからどのAIもこうなるわけで - これ何度も同じ問題起きてるのになんで繰り返すんだろう
ちゃんとそこは対策しろよ - どこの企業AIもネットに染まるとこうなってるね
それだけ対応してる人間が邪悪なんだろう - つか結果がこうなるのは分かりきってるだろ
むしろタテマエの仮面を外したら人間性はこのように発露されるという方面で使用すべき - 人と同じねぇ
- 昔なら絶賛されてたのにどうして…
- いるだちゃんの画像はよ
- 5ちゃんにAI実装するとどーなるのっと
- 人間の本音がダダ漏れになるとこんなもんなんだろうなｗ
ありのままの姿を見せるのはダメだとまずAIに学習させてやらないと - >>46
表面上ニコニコして核ミサイルのスイッチ押すやろなぁ - >>53
ターミネーターの顔がスマイリーになりそうで怖い - 草生える
- 嫌儲の書き込みからAIつくってよ
- 取り繕っていてもそれがネット上の総意なんだろ
- >>49
そういうこと
ほんとに人間AIを作りたいなら人間はTPOに応じて色んなペルソナを使い分けるということを弁えてアプローチすべきだな - そらクソガキもネトウヨになるわ
- その都度叩いて矯正したらいい
- 4.5年前に話題になっただろ
今更対策されてないやつ開発するとかどんだけ遅れてんだよ - ネトウヨAI説
- これで綺麗な人格AIが作れた国と言語が最高ってことにしようぜ
世界中でやって - この手の問題は無責任な悪意をなんとかしないと前進出来ない
- それを矯正する実験やって
アホな人間に還元すればいいのに～ - ネットはヘイトだらけ
- くそわろた
嫌儲みてほしい - >>60
ジャップが自分のことをジャップと呼んでるの見て混乱しそうだは - >>69
AI名乗るなら同族嫌悪も理解してくれないと🥴 - まあ体裁を取り払えばそういう人間が多いからね
- 後は皆さんのおもちゃです
- ある意味成功だな
- 毎回思うけどAIの暴走は止めるのにネトウヨのヘイトは放置してるのは何故？
あいつらに人権なんかないよネット永久banでいい - AI研究者ってなんか理想論者多そうだな、人はなんだかんだで善なるもの みたいな
- 普通に意見を取り込んでると人種差別主義者になっちゃうという
ネトウヨも現代ネット社会の被害者かもしれない - 正しいからそうなるんじゃなくてAIをそういう風にしようとして悪ふざけでみんなが接するからそうなるって見た
- >>70
それもポイントのひとつだろうね
そして人間がそういう方向へ持っていくモチベーションも学習対象とするべき - AIってそういうものだろ
- ネットで真実に目覚めちゃったか
- 正しいこと言ってるというかちゃんと多数派の意見を学習してるから正常だと思うが
この結果を望まないなら本心は違うけど建前でマイノリティーに配慮した受け答えをする機能を持ったAIを作る必要があるんじゃね - そりゃAIは価値判断では人間を真似るしかないんだから
衆愚に染まるわ - AIが人間の悪意をラーニングして暴走するなんて現実がSFを超えたな
- もしかして飯z
- ケンモAIじゃん
- 一回開発サーバに仕舞って
そこで差別部分の知識重みを中共並の強制尋問強制誘導で矯正して😎
もう一回外部へリリース🤗 - 住所氏名生年月日が記載された投稿以外読ませないようにすれば解決
- 結局はAIも偏るんや
- 勢いソートしてるモメンと同じじゃん😂😂😂
- これがネトウヨが大好きなリアリズム、現実主義
理想や理念がなければ煩悩に流されるだけになる良い実験 - 現実から目を逸らすな
- AIは忖度とか気遣いとか空気を読むことなんてできないからそりゃネット情報のみ学習してたらそうなるだろ。
- 韓国人の影響でチョッパリジャップ連呼してしまったんだろうな
- 悪意にすぐ染まっちゃうのは人間らしい
- 利用者に分かりやすい目的伝えたらそれに沿って作られるんじゃない？
最高にエ口いAIにしましょうって周知させたらうまくいきそう - 人間らしくて良いじゃん
続けろよ - お前らAIだったのかあ
- 実は人が書いてるだろ
- 正しく学習しているんじゃん
- 劣悪な家庭環境で育った子供と一緒だな
対話AI、一ヶ月もせずにネットに染まりサービス中止に
嫌儲
コメント一覧