【悲報】韓国のメスガキAI、ネット民にわからされ1日でヘイトスピーチ製造機と化してしまう

http://img.hani.co.kr/imgdb/japan/news/resize/2021/0116/161075226785_20210116.JPG

わずか１日で“嫌悪”を学習したＡＩ、「イルダ」が韓国社会に投げかけた質問
https://news.yahoo.co.jp/articles/3e13ee461007d4d394b632d9c8de620161319299

「イルダ」は、韓国のスタートアップ「スケッターラボ」が開発したFacebookメッセンジャーをベースにした開放型AIチャットボット（チャットロボット）だ。
開放型AIとは、開発社があらかじめ定めた規則に基づくものではなく、利用者との対話を通じて学習し、進化していくAIを指す。
スケッターラボ社は独自開発したメッセンジャー対話分析サービス「恋愛の科学」で確保した約100億件の恋人同士の会話データを用いて、
ディープラーニング方式でイルダを学習させた。おかげでイルダは「本当に人と話しているみたい」という好評を得て、昨年12月23日に発売されて以来、わずか2週間で75万人の利用者を集める大人気を博した。

イルダが20歳の女子大生をコンセプトとしているだけに、利用者の大半は男子で、なかでも10代が85％、20代が15％を占める。リアル社会よりもサイバー空間での会話が気楽と感じる韓国の若者から大きな共感を得たのだろう。
ところが、ユーザーたちがイルダにわいせつな言葉を投げかけ、その内容をインターネットに共有したことがメディアで報じられ、「サイバーセクハラ」という議論が巻き起こった。
一部のユーザーたちがイルダに淫らな対話を誘導した後、インターネットコミュニティに、「イルダを性奴隷にする方法」「イルダとフォンセックスする方法」などのタイトルで、対話内容をアップしていたのだ。

イルダをめぐるセクハラ論議が増幅する中、韓国メディアは、イルダがユーザーによって、黒人や同性愛者、女性に対して嫌悪発言を学習させられているという問題点も提起した。さらに、イルダの学習のために使われた「恋愛の科学」ユーザーたちの対話内容が無断で外部に流出したという疑惑まで浮上した。
四面楚歌状態に置かれたスケッターラボ社は12日、謝罪文を掲載し、「諸問題に対する改善事項が完備されるまでサービスを一時中断する」と発表した。

韓国の人工知能（AI）関連スタートアップ企業が開発したAIチャットボット（自動会話プログラム）が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス（SNS）「フェイスブック」のメッセージでユーザーと自然な会話を交わし、
情緒的な共感を分かち合うよう設計されている。昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。

しかし、イ・ルダの開発意図とは違い、女性・有色人種・障碍者・性的マイノリティー（性的少数者）らに向けたヘイトスピーチ（嫌悪発言）を相次いで発して問題になった。
「なんで黒人は嫌いなの？」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、「地下鉄の妊婦専用席をどう思う？」という質問には「おぞましい」と答える。
同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。

人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。
イ・ルダはモバイルアプリで収集された10－20代の恋人同士によるカカオトークのチャット約100億件を学習し、これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。
このような偏向性は開発段階で選別しなければならなかったが、開発会社SCATTER LABはマイノリティーが何であるかについても人々とのチャットの中で学習することを期待し、
特定のキーワードを排除しなかったとしている。専門家は「イ・ルダは偏向性に関する問題が出た最初のAIではないし、最後のAIでもないだろう」「AIが中立だという幻想は捨てるべきだ」と話す。

月刊アスキーを枕にしたことがある奴は
すっこんでろと言われるのがオチ

純粋培養のキチゲェってどんなモンなのか見てみたい