隠語や絵文字で禁止用語を表す「アルゴスピーク」がソーシャルメディアで激増 [256556981]
■ このスレッドは過去ログ倉庫に格納されています
隠語や絵文字で禁止用語を表す「アルゴスピーク」がソーシャルメディアで激増
ソーシャルメディア上で「camping（キャンピング）」についての投稿を見かけても、それはテントの張り方や訪れるべき国立公園について話しているのではない可能性がある。この言葉は最近、まったく別のことを表す「Algospeak（アルゴスピーク）」になった。米最高裁が人工妊娠中絶を憲法上の権利と認める「ロー対ウェイド判決」を覆したことを受けて、中絶関連の問題について議論しているのだ。
ソーシャルメディアのユーザーは、デリケートあるいはルールを破る可能性のあるコンテンツを投稿する際に、人工知能（AI）を活用したアプリのモデレーションによる検出を避けるために隠語、絵文字、意図的なタイプミスといった、いわゆる「アルゴスピーク」を使用するようになっている。TikTokを含むほぼすべての主要なソーシャルメディアプラットフォームに人間とAIによるコンテンツモデレーションサービスを提供しているカナダ企業Telus InternationalでAIデータソリューションを統括するシボーン・ハンナは「キャンピング」はこのように使われるようになった言い回しの1つにすぎないと指摘する。「アルゴリズムが中絶への言及を拾うかもしれないという懸念があったからだ」とハンナはいう。
Telus Internationalが先月、米国で1000人を対象に行った調査のデータによると、米国人の半数以上が極端な政治的、文化的、世界的な出来事があるとアルゴスピークが増加したと答えている。また、ソーシャルメディアやゲームサイトでは、米国人のほぼ3分の1が人種差別的、性的、自傷行為に関連する禁止用語を回避するために「絵文字や代替表現を使ったことがある」と答えている。ハラスメントやいじめなどのヘイトスピーチを禁止する規則を回避するためにアルゴスピークが最もよく使われており、暴力や搾取に関する規則がそれに続くとハンナは話す。
随分前には「pr0n（ポルノの隠語）」やナスの絵文字が使われていた。このように進化し続ける回避の手法はテック企業や、テック企業からコンテンツの取り締まりを請け負うサードパーティ企業にとってますます大きな課題となっている。機械学習はヘイトスピーチのようなあからさまに暴力的なものを発見することはできる。しかし婉曲的な表現に含まれている意味合いや、ある人にとっては無害に見えても別の文脈では悪意のある意味を持つフレーズを読み取ることは、AIにとってはるかに困難なものだ。
https://news.yahoo.co.jp/articles/3aede31dcb6e757c249dd434c34170495ec58b3c
「チーズピザ」「トウモロコシ」「天井にタッチする」の意味
例えば「cheese pizza（チーズピザ）」という言葉は、児童ポルノ画像の取引を持ちかけるアカウントで広く使われている。トウモロコシの絵文字はポルノについて話したり、ポルノに誘導しようとしたりするために頻繁に使用されている（TikTokでは多くの人がトウモロコシへの愛を歌っているという無関係なバイラルトレンドもあるが）。また、過去のフォーブスの報道では「天井にタッチする」といったありふれた文章が、フォロワーに体の一部をチラ見せしたり、自分の体を見せびらかしたりするよう若い女の子をおだてるのに使われるという、二重の意味があることが明らかになっている。
「私たちが最も懸念しているのは児童搾取と人間の不当な利用だ」とハンナは語った。これは「アルゴスピークの中で最も進化の早い分野の1つ」だ。
しかし、特定のアルゴスピークの用語を削除するか格下げするかはTelus Internationalが決めることではないとハンナは述べた。「ガイドラインを設け、問題があるかどうかを決定する」のはプラットフォームだという。
「私たちは通常、コンテンツに関して過激な決定を下すことはない。コンテンツはプラットフォームの所有者である私たちのクライアントが展開しているもの。私たちはクライアントに代わって作業をしているだけだ」
例えば、Telus Internationalは政治的・社会的な利害関係の強い場面ではアルゴスピークを取り締まることはないとハンナは述べ、一例として「キャンピング」を挙げた。顧客の中で特定のアルゴスピークを禁止している企業があるかどうかについては言及を避けた。
ハンナによると「キャンピング」は最高裁判決から24時間もしないうちに出現し、その後2週間ほどで急増したという。しかしアルゴスピークとしての「キャンピング」は「あまりにも一般的になり、もはや隠語ではなくなってしまった」ため、次第に衰退したと説明する。アルゴスピークの典型的な変遷はこうだ。急増し、多くの注目を集め、ある種のミーム化が始まり、やがて消えていく。
ハンナによると、ウクライナとロシアの戦争の前後にソーシャルメディアでは、AIによる検出を回避するために、例えば投稿者が「殺された」と「兵士」を同じ文章で述べるのではなく「unalive（生きていない）」という言葉を使用するなど、新しいかたちのアルゴスピークも出現しているという。
AIは人間が拾えるものを拾わないかもしれない
また、ゲームプラットフォームでは、ユーザー名や「ゲーマータグ」にアルゴスピークを埋め込んで政治的発言をすることが頻繁にあるという。その一例として、1989年に中国・北京で起きた天安門事件の日を「6/4」という数字で表現していることが挙げられる。「中国では、この歴史的な出来事をめぐる言論はかなり統制されている」とハンナは指摘し「少し曖昧に見えるかもしれないが、言論が非常に統制されている社会でユーザーネームで発言することは実際にはかなり政治的に熱い発言になり得る」と語った。
また、間近に迫った米中間選挙前後にはオンライン上でアルゴスピークが増加するとTelus Internationalは予想している。
AIによるモデレーションを回避する他の方法としては、単語のスペルをわざと間違えたり「S」の代わりに「$」「O」の代わりに数字のゼロといったように、文字を記号や数字に置き換えたりする手法が挙げられる。例えば、TikTokでセックスについて話す人の多くは、代わりに「seggs」や「seggsual」と表現している。
アルゴスピークでは、絵文字は「本来想定していないものを表現するのに非常によく使われる」とハンナはいう。ある文脈では、それは意地悪であっても無害なことがある。英国では、エリザベス女王の死に対する比喩的な驚き、あるいは気難しい対応を表すものとしてカニの絵文字の使用が急増しているという。しかし別の場合では、より悪意に満ちている。ハンナによると、ある文脈では忍者の絵文字が黒人社会に対する軽蔑的な言葉やヘイトスピーチの代用として使われているのだという。
ソーシャルメディアを規制する法律はほとんど存在せず、コンテンツモデレーションは政府のテック政策の中でも最も議論の多い問題の1つだ。党派的な意見の相違が、AIが（コンテンツモデレーションを動かすような）倫理的で透明性のある方法で管理されることを目的とした法案「Algorithmic Accountability Act（アルゴリズム説明責任法）」などの立法を妨げている。
規制がないため、ソーシャルメディア大手と外部のモデレーション企業はこうした問題をほったらかしにしてきた。しかし専門家は説明責任について懸念を示し、こうした関係を精査するよう呼びかけている。
Telus Internationalは人間とAIによるコンテンツモデレーションの両方を提供しているが、調査参加者の半数以上が、コンテンツモデレーションに人間が入ることは「非常に重要」だと強調している。
「AIは人間が拾えるものを拾わないかもしれない」とある回答者は書いている。そして別の回答者は「人間はフィルターを避けるのが得意だ」と指摘している。 
🍔 独裁下における検閲の国ではよくあることなんよ
怖いんよ 言論の自由や思想はAIごときでは規制できないってことだな
隠語を使ったり、回りくどい言い回しをすればワード検索で見つけ出せなくなるからな
ヘイトスピーチは不滅じゃあ！ >>17
中国ゲーの掲示板はNGワードがあっち仕様だから結構おもしろいことになる >>11
お手々がグーが安倍晋三のことだとＡＩが理解するにはあと二十年は必要だな……
わかった瞬間、ネットに散らばった膨大なデータが一気につながって意味を持ち、ヘウレーカ！って叫びそう ██████████████
██████████████
██████████████ 例えば「プーチン大統領は世界最高の指導者」をウクライナ応援してます！の隠語にすればロシア的には規制するわけにはいかないよな 
>>36
日本だとこれだろｗ
公文書までマジでこれだからなｗ 今じゃ当然のように使われてるjk jcも元は円光交渉やエロ動画の隠語だよね ■ このスレッドは過去ログ倉庫に格納されています
