ストリーミングサイト「Twitch」はフィルタリングシステム「AutoMod」の導入を発表した。ゲーム実況などが盛んにおこなわれているTwitchでは、日々視聴者からのコメントが投稿されている。そういったコメントの多くは無害なものであるが、看過できない悪質なコメントが存在するのも事実だ。代表的なのが女性配信者に対するセクシャルハラスメントだろう。
インディアナ大学の研究者が2014年の10月から12月にかけてTwitchに投稿された710万ものコメントを解析したところ、女性配信者のストリーミングへのコメントに「boobs（おっぱい）」「hot（性的な意味も含んだほめ言葉）」「marry（結婚）」「babe（かわいこちゃん）」といった性と関連の強いキーワードが多く含まれていたと報告している。一方、男性配信者のストリーミングには「attempts（試す）」「reset（リセット）」「glitch（グリッチ）」「melee（乱闘や近接攻撃を指す）」といったコメントが寄せられており、こちらは性とは関係なく、ゲーム内容に対する投稿が多い。同研究は2014年のものであるが、2016年になっても状況は変化していないようで、『Hearthstone』の女性プレイヤーとして有名なHafu Chan氏は、配信中に頻繁に「whore（売春婦）」といったセクシャルな暴言を日々受け悩んでいることを明かしている。
https://www.youtube.com/watch?v=y0WIE-ySC7c
問題となっているのは性差別だけではない。今年の5月には同じく『Hearthstone』のアフリカ人プレイヤーTerrence Miller氏が、「DreamHack」のトーナメントの配信内で人種差別を含んだヘイトスピーチによって攻撃されたことは記憶に新しい（参考記事）。TwitchにはJustin.tvから派生し設立された時代から、ヘイトスピーチ問題が根深く存在しているのだ。
配信者か配信者から指定されたモデレーターは、Twitchで暴言や差別発言を投げかけてくるユーザーをBANあるいはコメント制限することが可能だ。しかしこれらの対応は、あくまで“事後”のもの。一度暴言を受けてからでないと対策はできなかった。
こうしたコメントをあらかじめ防ぐのが今回導入された「AutoMod」だ。Twitchのプロダクトマーケティングを担当するBrian Petrocelli氏は、「モデレーターは剣であり、AutoModは盾になる」と語る。配信者はフィルターを4つの段階から設定することができ、「アイデンティティにかかわるものや性的な言葉、攻撃的な内容のコメントはフィルターにより一度Twitch内でストップされ、モデレーターの検閲を受けることになる。モデレーターは投稿されたコメントを許可するか断るかを選択することができ、配信者が気分を害する前に悪質な暴言を排除できるというわけだ。このAutoModは特定の単語に反応するだけでなく、「Siri」や「Amazon Echo」のように言語のアルゴリズムを認識し、学習していくというのも興味深い。ちなみにこのAutoModは、日本語にも対応しているようだ。
