Giphyは先月、 明示的に人種差別的なGIF これは、ゴリラによってクランクされた「Nワード犯罪死」カウンターの増加を表しています。
ケンタッキーラムジーベサンベアーズヌードを欠場
による ザ・ヴァージ 、Giphyは、「GIFステッカーに特に影響するコンテンツモデレーションフィルターのバグ」が原因でGIFがすり抜け、ユーザーがそのようなコンテンツを投稿することを禁止するプラットフォームのルールを回避できると述べました。 Giphyがバグを修正し、InstagramとSnapchatがバグを追加し直しました。
この事件は大衆がそれを捕まえたときに解決されましたが、それは過去の偽物とは著しく異なります。 InstagramとSnapchatはアプリをすぐに公開しました。合理化も、憲法修正第1条の発動もありませんでした—ただしっかりとした簡潔な謝罪ですそして補正。
FacebookからTwitter、Redditに至るまで、すべてのソーシャルメディアは、主に一般市民の抗議の後で、有毒で有害なコンテンツをどのように処理するかという避けられない問題に直面しています。 Facebookは最近、多くのプライバシー問題に取り組んできましたが、そのプラットフォームでの人種差別やヘイトスピーチとはまだ闘っていません。 Facebookは最近それが 小児性愛を非難することを決定するユーザー次第 広告主が静かにできるようにしながら、調査を介して ターゲット「ユダヤ人嫌い」 そして 他の憎悪グループ ProPublicaによる最近の調査結果によると、アメリカと世界で。ザ・ ニューヨーク・タイムズ この方針は、Facebookが少数派のロヒンギャの人口を攻撃する広告を受け入れたミャンマーでも緊張を引き起こしたと報告している。文脈上、Facebookは女性が個人的な経験について話すことを禁止していると デイズド 。
Facebookは、そのプラットフォームでの悪意のある表現について何かしますか？適切な人工知能は「まだありません」とCEOのマークザッカーバーグは言います。ヘイトスピーチを特定するはずのソフトウェアを修正するには、5年から10年かかる可能性があると彼は語った。 証言 4月10日の米国議会の前。しかし、ザッカーバーグはAIの失敗の理由として言語的なニュアンスを挙げていますが、 Facebookも言論の自由を抑制したとされている ベトナム政府が反体制派のコンテンツを削除するのを支援することによって。そして、として スレートは昨年説明しました 、「5年から10年」は、化学療法の廃止から空飛ぶクルマまですべてを約束する技術関連組織からの包括的なフレーズになる傾向があります。
Facebookが直面している 不快な質問 今はですが、それだけではありません。間違いなくインターネットの陰の部分であるRedditは、 ニューヨーカー 解毒の進行状況を監視するためにオフィスに足を運びます。これは、人間のスタッフがサブレディットをくまなく調べて、シャットダウンするのにどれほど悪いことが必要かを判断することで構成されています。 Redditによると、昨年、r / incelssubredditで暴力的なmisogynisticコンテンツが見つかった頃にポリシーが更新されました。 副 。
Twitterは、ネオナチ関連のコンテンツを吐き出すユーザーがプラットフォームに留まることが許可されている理由に答える必要がありますが、他のユーザーはインターネット上での虐待に立ち向かうと報告されています それらを禁止することができます 虐待者の代わりに。昨年、Twitterが始まりました 確認済みのチェックマークを削除する オルタナ右翼運動に関連する人気のあるユーザーからですが、リチャード・スペンサーのような白人至上主義者はすでにこのアプリを使用して暴力的なメッセージを広めています。現在、Twitterはボットアカウントの排除を検討しています 分裂的な誤報を広める 。
国民の欲求不満は明白であり、おそらく変化の背後にある唯一の原動力です。世界最大の広告主の1つであるユニリーバは2月、ヘイトスピーチの規制に従わない場合、Facebookから広告をスクラブする可能性を浮き彫りにしました。 ワシントンポスト テクノロジー業界に対する連邦規制の欠如が州政府を行動に駆り立てていると報告した。ほとんどのテクノロジー企業が本社を置くカリフォルニアは、ソーシャルメディアボットに取り組むための法律を作成しています。メリーランド州、ニューヨーク州、ワシントン州は、Facebookのケンブリッジアナリティカスキャンダルの後、有権者にとってオンラインの政治広告をより透明にする法案を後押ししている。
InstagramはFacebookが所有していますが、人種差別的なGIFの問題に迅速に取り組みました。有名人がSnapchatについて不満を表明したため、Snapchatの在庫は大幅に減少しました。 カイリー・ジェンナー 誰かがもうそれを使用したかどうかを尋ねて リアーナ 広告がユーザーに彼女を平手打ちするか、クリス・ブラウンを殴るかを尋ねた後、アプリをドロップします。
GIF事件は、以前に憲法修正第1条を盾として使用していたソーシャルメディアプラットフォームを考慮に入れる瞬間を示しています。特にソーシャルメディアユーザーがアカウントを削除し、自分のプライバシー設定を監視し始めているため、解決の速度は力の変化を示しています。人々がインターネットから撤退するにつれ、大規模なテクノロジー企業やメディア企業が社会における自分たちの立場にどのように取り組んでいるか、そしてユーザーが彼らに何を求めているかを監視することが重要です。彼らは私たちからあまりにも長い間お金を稼いでいます。説明責任の時が来ました。
[写真：ゲッティイメージズ]
