ソーシャルネットワークはヘイトスピーチにどのように取り組んでいますか？
AIプログラムとヒューマンコンテンツレビューアは、オンラインで不快なコメントを取り締まる
ザックギブソン/ AFP /ゲッティイメージズ
ヘイトスピーチはソーシャルネットワークWebサイトにとって新しい現象ではありませんが、バージニア州シャーロッツビルでの土曜日の極右集会で1人の抗議者が死亡したため、企業はオンラインで攻撃グループに対して行動を起こしました。
最大のソーシャルメディアグループが悪意のある表現にどのように対応しているか、および不快なコンテンツが広がらないようにする計画は次のとおりです。
フェイスブック
土曜日のシャーロッツビルでの暴力的な出来事に続いて、 Engadget Facebookは、「暴力を行ったユナイト・ザ・ライトの行進のイベントページ」を含め、「攻撃を受けて多数の憎悪グループを閉鎖した」と述べています。
ソーシャルメディアの巨人は、人工知能（AI）と人間のコンテンツのレビュー担当者を組み合わせて、悪意のある表現を見つけます。 ザ・ヴァージ 「週に66,000件の嫌がらせメールの投稿」を削除すると言います。しかし、このサイトは、Facebookがコンテンツを攻撃的または憎悪的であると報告するユーザーに「大きく依存している」と述べています。
5月、Facebookは「コンテンツレビューアのチーム」にさらに3,000人を雇用したと述べています。 TechCrunch 、合計で最大7,500になります。これは、殺人と自殺を放送するためのFacebook Liveの使用を含む、いくつかの世界的な「コンテンツモデレーションスキャンダル」によって引き起こされました。
しかし 有線 同社の「アルゴリズムおよび人間によるレビュー担当者」が、文脈を考慮せずにコメントや投稿を不快なものとしてラベル付けしている状況があったと述べています。たとえば、ウェブサイトには、「スラーとして叫ばれる」という言葉が、「自己表現の手段として」「グループによって」「取り戻される」ことがあると書かれています。
ツイッター
Twitterの憎悪行為に関するポリシーによると、このサービスでは、人種や性的指向などの分野に基づいて、「他人に危害を加えることを主な目的とするアカウントは許可されていません」。
The 独立 過去数か月にわたって、サイトは悪意のある表現を検出して削除するためのシステムとツールをさらに導入し、ユーザーが不快なコンテンツを手動で報告するプロセスを改善したと報告しています。
しかし、ソーシャルメディアサイトは、「脅威が認識された後の行動の欠如が認識されていることに関して、ここ数ヶ月はかなりお湯に浸かっています」と述べています。 TechCrunch 、活動家が「会社のベルリン本社の外の通りに憎悪の言葉を吹きかける」ことにつながる。
土曜日の衝突をきっかけに、ウェブサイトは極右グループのデイリー・ストーマーのアカウントが削除されたと述べているが、「核戦争の脅威の端にいるトランプのツイート」は会社の方針に沿っているようだ。
チャットフォーラムのRedditも、悪意のある表現を取り締まっています。 Engadget ウェブサイトは「攻撃を受けて多数の憎悪グループを閉鎖した」と述べています。
ソーシャルメディアサイトから削除されたグループの中には、subreddit / r / Physical_Removalがあり、Engadgetは、「反憎悪のsubredditsやCNNの人々が殺されることを望み、強制収容所を支援し、殺害についての詩を書いた」と述べています。
「私たちのサイトの利用規約では、暴力を扇動するコンテンツを投稿すると、ユーザーがRedditから禁止されることを非常に明確にしています」とRedditは語った Cnet 。
グーグル
Googleはソーシャルネットワークだけではありませんが、テクノロジーの巨人は、インターネットトラフィックとユーザーがアクセスできるソーシャルアプリを誘導する上で重要な役割を果たしています。
土曜日のシャーロッツビルでの衝突以来、 TechCrunch 同社は、主流のプラットフォームから禁止されたユーザーにとって「避難所」となったため、Playストアから「保守的なソーシャルネットワーク」Gabを削除したと述べています。
Googleは、特定の基準に基づいて「個人またはグループに対する暴力を助長または容認するコンテンツ」をサポートしていないと述べ、「ポリシーに違反する可能性のあるコンテンツについてユーザーに通知するかどうかはユーザーに大きく依存している」と付け加えています。
しかしTechCrunchは、このアプリはチャットルームであり、悪意のある表現を積極的に宣伝していないように見えるため、「Gabがストアからのキックオフを正当化するために具体的に何をしたのかは明らかではない」と述べています。ウェブサイトには「TwitterやYouTubeには悪意のある表現がたくさんある」と書かれていますが、今週の不快なコンテンツの「取り締まり」にもかかわらず、これらは引き続きダウンロードできます。
によると ザ・ヴァージ 、Gabは「AppleのAppStoreへの掲載が承認されたことはありません。」
他の人は何をしていますか？
土曜日のイベント後のヘイトスピーチの取り締まりの注目すべき事例の1つには、Webドメイン名の小売業者GoDaddyがThe DailyStormerのWebサイトをサービスから排除したことが含まれます。 登録簿 。
ウェブサイトによると、活動家は、シャーロッツビル攻撃の犠牲者であるヘザー・ヘイヤーについて、グループが「非常に下品で軽蔑的な発言」をしたと小売業者に語った。 GoDaddyは、ドメインを別のプロバイダーに移動するために、デイリーストーマーを24時間手渡しました。
利用規約に違反しているため、ドメインを別のプロバイダーに移動するのに24時間かかることをThe DailyStormerに通知しました。
--GoDaddy（@GoDaddy） 2017年8月14日
YouTubeはまた、「ヘイトスピーチに関してより厳格なガイドラインを制定する」ことが期待されている、と報告している TechCrunch 。これにより、コンテンツに違法なものが何もない場合でも、ユーザーが不快なものとしてマークした後、さらに多くの動画が削除される可能性があります。
