隠語や絵文字で禁止用語を表す「アルゴスピーク」がソーシャルメディアで激増

例えば「cheese pizza（チーズピザ）」という言葉は、児童ポルノ画像の取引を持ちかけるアカウントで広く使われている。トウモロコシの絵文字はポルノについて話したり、ポルノに誘導しようとしたりするために頻繁に使用されている（TikTokでは多くの人がトウモロコシへの愛を歌っているという無関係なバイラルトレンドもあるが）。また、過去のフォーブスの報道では「天井にタッチする」といったありふれた文章が、フォロワーに体の一部をチラ見せしたり、自分の体を見せびらかしたりするよう若い女の子をおだてるのに使われるという、二重の意味があることが明らかになっている。

「私たちが最も懸念しているのは児童搾取と人間の不当な利用だ」とハンナは語った。これは「アルゴスピークの中で最も進化の早い分野の1つ」だ。

しかし、特定のアルゴスピークの用語を削除するか格下げするかはTelus Internationalが決めることではないとハンナは述べた。「ガイドラインを設け、問題があるかどうかを決定する」のはプラットフォームだという。

「私たちは通常、コンテンツに関して過激な決定を下すことはない。コンテンツはプラットフォームの所有者である私たちのクライアントが展開しているもの。私たちはクライアントに代わって作業をしているだけだ」

例えば、Telus Internationalは政治的・社会的な利害関係の強い場面ではアルゴスピークを取り締まることはないとハンナは述べ、一例として「キャンピング」を挙げた。顧客の中で特定のアルゴスピークを禁止している企業があるかどうかについては言及を避けた。

ハンナによると「キャンピング」は最高裁判決から24時間もしないうちに出現し、その後2週間ほどで急増したという。しかしアルゴスピークとしての「キャンピング」は「あまりにも一般的になり、もはや隠語ではなくなってしまった」ため、次第に衰退したと説明する。アルゴスピークの典型的な変遷はこうだ。急増し、多くの注目を集め、ある種のミーム化が始まり、やがて消えていく。

ハンナによると、ウクライナとロシアの戦争の前後にソーシャルメディアでは、AIによる検出を回避するために、例えば投稿者が「殺された」と「兵士」を同じ文章で述べるのではなく「unalive（生きていない）」という言葉を使用するなど、新しいかたちのアルゴスピークも出現しているという。

また、ゲームプラットフォームでは、ユーザー名や「ゲーマータグ」にアルゴスピークを埋め込んで政治的発言をすることが頻繁にあるという。その一例として、1989年に中国・北京で起きた天安門事件の日を「6/4」という数字で表現していることが挙げられる。「中国では、この歴史的な出来事をめぐる言論はかなり統制されている」とハンナは指摘し「少し曖昧に見えるかもしれないが、言論が非常に統制されている社会でユーザーネームで発言することは実際にはかなり政治的に熱い発言になり得る」と語った。

また、間近に迫った米中間選挙前後にはオンライン上でアルゴスピークが増加するとTelus Internationalは予想している。

AIによるモデレーションを回避する他の方法としては、単語のスペルをわざと間違えたり「S」の代わりに「$」「O」の代わりに数字のゼロといったように、文字を記号や数字に置き換えたりする手法が挙げられる。例えば、TikTokでセックスについて話す人の多くは、代わりに「seggs」や「seggsual」と表現している。

アルゴスピークでは、絵文字は「本来想定していないものを表現するのに非常によく使われる」とハンナはいう。ある文脈では、それは意地悪であっても無害なことがある。英国では、エリザベス女王の死に対する比喩的な驚き、あるいは気難しい対応を表すものとしてカニの絵文字の使用が急増しているという。しかし別の場合では、より悪意に満ちている。ハンナによると、ある文脈では忍者の絵文字が黒人社会に対する軽蔑的な言葉やヘイトスピーチの代用として使われているのだという。

ソーシャルメディアを規制する法律はほとんど存在せず、コンテンツモデレーションは政府のテック政策の中でも最も議論の多い問題の1つだ。党派的な意見の相違が、AIが（コンテンツモデレーションを動かすような）倫理的で透明性のある方法で管理されることを目的とした法案「Algorithmic Accountability Act（アルゴリズム説明責任法）」などの立法を妨げている。

規制がないため、ソーシャルメディア大手と外部のモデレーション企業はこうした問題をほったらかしにしてきた。しかし専門家は説明責任について懸念を示し、こうした関係を精査するよう呼びかけている。

Telus Internationalは人間とAIによるコンテンツモデレーションの両方を提供しているが、調査参加者の半数以上が、コンテンツモデレーションに人間が入ることは「非常に重要」だと強調している。

「AIは人間が拾えるものを拾わないかもしれない」とある回答者は書いている。そして別の回答者は「人間はフィルターを避けるのが得意だ」と指摘している。