インスタグラムがネットいじめと戦う人工知能「クラウド」を発表

Instagramは人工知能（AI）で不快な表現を排除するらしい。

同社はAIで不快と判断したキャプションを付けた動画や写真を、投稿する前にユーザに
警告を出して考え直させる新機能をローンチする。今後、キャプションを投稿しようと
するときに不快感を与える可能性があるとInstagramが検出した場合、
文言を再検討するように求めるアラートがそのユーザに表示されるようになる。

この警告システムは完全に自動化されており、Instagramは同様の言葉を使うキャプションを
含む過去のいやがらせ報告から収集したデータを基にしている。

これはInstagramが7月にコメント欄を対象に導入した同様の機能の拡張である。
同機能がリリースされた際もInstagramはAIを使用して文言を検出し、
ユーザに警告、そして最終的に「ポジティブなインタラクション」を促していた。

もちろん、忠告に反し不快なコメントやキャプションを無理やり投稿しようとする
ユーザを止める術はない。しかし、Facebookの写真・動画共有の大人気プラット
フォームでの乱用を減らすために必要なのはこうした穏やかな働きかけで十分で
あるだろうと考えられている。

https://thebridge.jp/2019/12/instagram-uses-ai-to-warn-users-before-they-post-offensive-captions

ネットいじめとの戦いに率先的に対応するという、弊社の長期的な取り組みの一環として、
Instagram上での様々な形のいじめを認識することができるAIを開発、テストしました。
今年、コメントが不快だと受け取られる可能性がある場合に、投稿前に通知する機能も
ローンチしました。信頼できる結果が出ており、このようなタイプの働きかけが投稿文言を
再考するように人々を促せることがわかっています。

数十億人のユーザのコメントとキャプションを監視することは、人間だけでは
不可能に近い挑戦だ。

そのため、すべての主要プラットフォームがますます自動化ツールに移行している。

Twitterは、すべての不正なツイートのうちの半分を通報を待たずに積極的に
削除していると最近発表した。

Instagramの最新のいじめアラートは、まず実証テスト国のみで始まり、
その数か月後にグローバル市場に出されることになる。

実例見てるからマジな話