世界最大のソーシャルメディアプラットフォームが青少年の精神的健康を守るために十分な努力をしているかどうかに対する懸念が高まる中、Meta、TikTok、Snapは青少年の安全への取り組みに基づいて評価されることになる。

メンタルヘルス問題の偏見をなくすことに重点を置いた団体であるメンタルヘルス連合は火曜日、オンラインプラットフォーム向けの基準と新しい評価システムを立ち上げると発表した。 Safe Online Standards (SOS) プログラムでは、世界的な専門家からなる独立委員会が、セキュリティ ルール、設計、モデレーション、メンタルヘルス リソースなどのパラメータに基づいて企業を評価します。

TikTok、Snap、FacebookとInstagramの親会社であるMetaが、最初に格付けされる企業となる。 Discord、YouTube、Pinterest、Roblox、Twitchも参加に同意したと連合はニュースリリースで述べた。

「これらの標準は、プラットフォームのセキュリティを評価し、企業に責任を負わせるための有意義な方法を一般の人々に提供します。そして、より多くのテクノロジー企業が評価を受けるために登録することを期待しています」とMetaのバイスプレジデント兼セキュリティグローバル責任者であるAntigone Davis氏は声明で述べた。

TikTokとSnapの幹部もオンラインの安全性への取り組みを表明した。

保護者、議員、擁護団体は、何十億ものユーザーのセキュリティを保護しているかどうかをめぐり、オンラインプラットフォームを長年批判してきた。ユーザーが投稿できないコンテンツに関するルールがあるにもかかわらず、自傷行為、摂食障害、薬物などに関する有害なコンテンツを規制するのに苦労している。

一方で、テクノロジーが人々の生活において果たす役割は大きくなっています。

人工知能を活用したチャットボットの台頭により、一部の十代の若者が交友関係を求めてテクノロジーを利用するようになり、メンタルヘルスへの懸念が高まっています。企業はオンラインセキュリティに関して訴訟に直面していることもある。

今週、インスタグラムやユーチューブなどのテクノロジー企業が、有害な製品を宣伝し、ユーザーを自社のプラットフォームに依存させた疑いで責任を問われるかどうかに注目が集まり始めた。

TikTokと消えるメッセージアプリSnapchatの親会社Snapは、訴訟を避けるために非公開の金額で和解に達した。

幼少期にユーチューブとインスタグラム中毒になったと主張するカリフォルニア州の女性の代理人弁護士の一人は冒頭陳述で、これらの製品は中毒になるように設計されていると述べた。

ハイテク企業は訴訟での主張を否定し、ユーザーの精神的健康問題の一部を幼少期のトラウマなど他の要因に帰しながら、自社を悪者のように描くために内部文書を歪曲していると主張した。

メタの最高経営責任者マーク・ザッカーバーグ氏はロサンゼルスの裁判で証言する予定だ。メタ社が児童を性的搾取から保護できず、ニューメキシコ州の消費者保護法に違反したと主張する訴訟を巡る別の裁判も今週始まった。

新しい評価は火曜日、特に若者の間でテクノロジーの責任ある使用を促進する世界的なキャンペーンであるセーファー・インターネット・デーでも発表された。火曜日、Googleなどの企業は、短いビデオのスクロールに時間制限を設定するペアレンタルコントロールなど、セキュリティに関して講じた取り組みの一部を概説した。

評価は色分けされ、テストで好成績を収めた企業​​には、プラットフォーム上の有害なコンテンツの削減に貢献し、ルールが明確であることを示す青い盾バッジが与えられます。満たしていないものには赤色の評価が与えられ、有害なコンテンツを確実にブロックしていないか、適切な規制が欠如していることを示します。他の色の評価は、プラットフォームが部分的に保護されているかどうか、または評価がまだ完了していないかどうかを示します。

Mental Health Coalitionを設立したファッションデザイナーのケネス・コール氏は声明で、「説明責任のための共有フレームワークを作成することで、SOSは私たちをメンタルヘルスと幸福をより良くサポートするオンラインスペースへと導くのに役立っている」と述べた。

SOS の Web サイトには、テクノロジー企業は新しい標準の開発に影響を与えておらず、プロジェクトに資金を提供していないと述べられています。しかし、メンタルヘルス連合は過去に他の取り組みに関して META と緊密に協力してきました。 Meta と Google は、アライアンスのウェブサイトにも「クリエイティブ パートナー」として記載されています。

ニューヨークに拠点を置くこの連合は、資金提供について尋ねる電子メールにすぐには返答しなかった。

企業はコンテンツモデレーションに関する独自のオンラインルールとデータを公開しています。プロジェクトへの参加に興味のある人は、ポリシー、ツール、製品の機能に関する文書を自発的に渡します。