「Elsagate」は、YouTubeが大きすぎて制御できないことを証明していますか？

子供を対象とした暴力的で性的なビデオのスキャンダルは、アルゴリズムに依存することの難しさを明らかにします

Catrinus Van Der Veen / AFP /ゲッティイメージズ

2月、YouTube 発表それは驚異的なマイルストーンに達しました。訪問者は現在、毎日10億時間相当のビデオを消費していました。

プラットフォームのユーザーベースの規模も同様に驚異的です。 15億人以上がYouTubeを使用していると言います保護者のロジャーマクナミーは、イスラム教に匹敵する世界的なリーチを提供しています。

しかし、彼らが言うように、大きな力には大きな責任が伴い、最近のElsaGateは、子供向けの邪魔な動画を含むスキャンダルであり、YouTubeがクリエイターのコントロールを超えてフランケンシュタインの怪物になったかどうか疑問に思う人もいます。

ElsaGateとは何ですか？

YouTubeで最も人気のあるチャンネルのいくつかは子供向けで、童謡、カラフルな漫画、強力なおもちゃの開梱動画を専門とするクリエイターが数百万人のチャンネル登録者と数十億回の再生回数を獲得しています。

しかし問題がある。 YouTubeには、子供を対象とした非常に暴力的で不適切な性的なものを暗示する動画が殺到していると、お問い合わせ、およびこれらの動画は、年齢に適したクリップと一緒に自動再生リストに追加されています。

ジャーナリストのジェームズ・ブライドルは、この不安な現象を掘り下げ、多くのビデオに登場する人気の冷凍キャラクターにちなんでエルサゲートと呼ばれ、インターネット上の「何かが間違っている」というタイトルの記事を掲載しています。中くらい今月。

彼は、コンテンツクリエーターが視聴者を追いかけるにつれて、ビューを獲得するための成功した（そして元々無害な）公式が、ますます風変わりで歪んだ再結合でネットワーク全体で際限なく繰り返されることを発見しました。

最も極端な場合、これらには、人気のあるキーワードに応じて作成された、または場合によっては自動的に生成されたように見える、不安定なビデオの大群が含まれます。多くの場合、不快なテーマや性的または暴力的なコンテンツが特徴です。

たとえば、Peppa Pigの歯科医を検索すると、人気のある子供たちのキャラクターが拷問された自家製のクリップが返されます。その後、一連のアイアンマンロボットになり、LearnColorsダンスが実行されます。

ElsaGateは、関係する親、メディア、インターネットの探偵から、これらの不快なビデオを誰が、または何が作っているのか、そしてその理由を見つけることに専念する大量の反応を生み出しました。

YouTubeが大きくなりすぎて制御できなくなったのでしょうか？

ElsaGateや、テロや暴力を宣伝する動画など、YouTubeのコンテンツをめぐるその他の論争の中心は、プラットフォームのアルゴリズムの全能性です。

一部の保護者が信じていることとは異なり、YouTubeの専用キッズアプリのコンテンツは、人間によってキュレーションされたり、事前に選別されたりすることはありません。代わりに、提案された動画は、共有キーワードまたは類似の視聴者に基づいて自動的に自動再生リストに表示されます。

YouTubeのカタログのサイズは、人間による監視の能力を超えています。によると、コンテンツは毎分400時間のビデオに相当する量でプラットフォームにアップロードされます。 Statista 。

一般的な検索用語に応じて明確に制作された動画の驚異的な急増は、YouTubeが基本的に機械によって運営されている範囲を示しているとMedium’sBridleは言います。

コンテンツの可視性、つまり広告収入の可能性がアルゴリズムによって制御されているプラットフォームでは、たとえ人間であっても、最終的にはマシンになりすます必要があります。

ElsaGateは、もはや無視できないYouTubeに関する長年の真実を明らかにしました。ポリゴン：あらゆる年齢のユーザーを邪魔な、暴力的な、または違法なコンテンツから保護するために設計されたフィルターは、仕事に適していません。

アルゴリズムは、人間または自動化されたコンテンツクリエーターによって分解され、分析され、打ち負かされます。コンテンツクリエーターは、システムのゲームに精通しており、出力が確実に表示されるようになっています。

特に悪名高い例では、4chanメッセージボードのいたずら者がポルノを子供向け番組につなぎ合わせ、アルゴリズムをゲーム化して、動画が収益化されて見られるようにしました、とPolygonは言います。

問題を修正できますか？

YouTubeは、不適切な子供向け動画がキッズアプリのフィルターをすり抜けてしまうという疫病を取り締まると約束しました。

ポリシーディレクターのジュニパーダウンズ氏は、ElsaGateの啓示よりも前の新しいシステムでは、ユーザーによってフラグが付けられた動画が年齢制限付きとして分類され、YouTubeKidsアプリから自動的に除外されると述べています。

より広いレベルでは、オンライン過激主義を懸念する政府からの圧力に促されて、YouTubeがコンテンツキュレーションに対する態度をより実践的なアプローチにシフトしている兆候があります。

ヨーロッパと米国での複数のテロ攻撃は、イスラム国やその共感者などのグループによって作成されたYouTubeプロパガンダビデオを視聴することによって部分的に自己過激化されたと考えられる個人によって行われています。

政治家は、過激派のコンテンツを含む動画を削除するための措置を強化していないテクノロジー企業に対して行動を起こすと脅迫しています。 YouTubeの親会社であるAlphabetは、脅威を真剣に受け止めているようです。

以前は、扇動的な宗教的または政治的な動画は、広告収入の対象ではありませんでしたが、グラフィックコンテンツや暴力の宣伝に関するサイトの規則に違反していなければ、YouTubeで許可されていました。

YouTubeのスポークスパーソンはロイター彼らの方針は、アルカイダのリクルーター、アンワル・アウラキによる講義など、テロリストとして分類された人々やグループを特集するビデオを禁止するように変更されました。

ただし、YouTubeが抜け穴を修正するための新しい戦略を開発したとしても、ElsaGateの影響は、より深刻なレベルで依然として不安を感じていると言います。 TechCrunch のナターシャロマス。

YouTubeのメディアは、コンテンツファクトリにクリック飼料を生産するように促し、一貫性ではなくキーワードに基づいたポップカルチャーのスラリーの波に世代をさらしているとLomasは書いています。意図的にベースとボトムフィードが子供の眼球の前に体系的に押し付けられているものから何かポジティブなものが生まれることを想像するのは難しいです。