11
「制限を安全に緩和できるようになる」：OpenAIのChatGPTアダルトモード計画は新たな精査に直面しているが、主要なセキュリティリーダーは依然として疑問を抱いている
OpenAI は、ChatGPT に代わる成人専用の代替手段を提供しようとしています。ほぼ同時に、同社は物議をかもしながら袂を分かち、最初に報じられたように、システムをどこまで許可するかを決定する責任のある当局者の一人だった。 ウォールストリートジャーナル。 OpenAI CEO のサム・アルトマン氏による、ChatGPT の責任ある安全な成人向けモードという約束は、今や空虚なものに見える危険にさらされています。
Ryan Biermeister 氏は、少なくとも先月まで、OpenAI の製品ポリシーを主導し、ChatGPT の動作を管理するルールと施行メカニズムを形成しました。時間として注目に値する WSJ 彼女によると、これは成人向けモードの計画について懸念を表明した直後に起こったという。
OpenAIは、彼女の退職は彼女が提起したいかなる異議とは無関係であり、むしろ差別の申し立てに関連していると述べているが、彼女はそれを強く否定している。同氏はこの主張は「まったくの誤り」であり、このタイミングは無視できないと述べた。
報告書によると、バイエルマイスター氏は同僚に対し、児童搾取コンテンツを防止する同社のシステムは十分強力ではなく、10代のユーザーがアダルトコンテンツにアクセスできないようにするのは幹部の予想よりもはるかに難しいと警告した。彼らのOpenAIからの離脱は警告とは何の関係もないが、すでにオンラインセックスに懸念を抱いている人々の間で眉をひそめるのは確実だ。
この瞬間が他と違うのは、製品の性質です。 ChatGPT はインタラクティブで適応性があり、ユーザーの感情的な信号に応答できます。リアルタイムで視覚化を作成できます。受動的な消費からパーソナライズされたエミュレーションへの移行により、賭け金も変化します。
大人の愛
アルトマンの議論は、成熟が起こったという考えに基づいている。 ChatGPT の初期バージョンは意図的に制限的でした。このシステムは、軽いロマンチックなロールプレイであっても拒否することがよくあります。多くのユーザーは、それが厳しく、過度に慎重であるように見えると不満を述べました。
現在の前提は、より優れたセキュリティ システム、より優れた監視、より堅牢な年齢認証によって拡張が可能になるということです。この観点から、認証された成人は成人として扱われる必要があります。
その理論は合理的だと思われます。大人は定期的にオンラインのエロコンテンツにアクセスします。チャットボットが、同意した成人向けに挑発的な短編小説を作成できるのであれば、なぜそれを書店の棚に並んでいるロマンス小説と異なる扱いをする必要があるのでしょうか?
しかし、ChatGPT は典型的なアダルト アプリではありません。オフィス、教室、家庭で使用される汎用アシスタントです。メールの下書きを作成し、宿題を説明し、コーディングを手伝い、孤立していると感じている人々をサポートします。
バイエルマイスター社は、児童搾取と十代の若者のデジタルセキュリティ対策におけるよくある弱点へのアクセスに関する懸念を表明した。 10 代の若者はソーシャル プラットフォーム上の制限を簡単に回避することがよくありますが、身元確認は回避できる可能性があります。
OpenAIはおそらく、アダルトコンテンツの提供を拒否してもその存在が妨げられるわけではないと主張するだろう。競合他社はすでにこれを行っています。イーロン・マスク氏の
しかし、XAIの最近の経験は、同社のGrok AIチャットボットが、おそらく同意なしにエロティックなディープフェイクを生成するために使用されたことであり、これらの海域で泳ぐことの危険性を示している。英国の規制当局はシステムの設計に適切な保護措置が講じられているかどうか調査を開始し、同社は衣服を着た現実の人物の画像編集に新たな制限を課すことを急いだ。
OpenAI も同じようには機能しないかもしれませんが、この種の明示的な機能が存在すると、設計者が予期しなかった方法や完全には制御できなかった方法で再利用できる可能性があります。
成熟度が欠けている
バイエルマイスター氏の解任報道は、別の意味で事態を不愉快なものにしている。 OpenAIは同氏の解任は政策反対とは無関係だと主張しているが、これについて議論することは同社にとって理想的ではない。安全規制の策定と施行を担当する上級リーダーが政策論争の最中に退職した場合、監督者は関係を構築します。
それにもかかわらず、ChatGPT のアダルト モードは、明確な境界と強力な強制を伴って、思慮深く実装できます。今までにあった心配事はすべて消え去ることができます。セクシュアリティは本質的に有害ではなく、大人は何を摂取するかを選択できます。
しかし、人々が自分のバージョンの ChatGPIT パーソナリティを愛しているという話はすでにたくさんあります。この方程式に性的コンテンツを加えても、訴訟に大きな悪影響を与えることはありません。
アダルト コンテンツへの拡大に対する市場の圧力は明らかです。しかし、市場の論理だけでなく道徳的な計算も存在するし、少なくとも存在するべきである。 ChatGPIT は、何百万もの人々にとって頼りになるインフラストラクチャになりました。その開発に関する決定は社会的に重要です。
ライアン・ビアマイスター氏の解任が彼の反対意見と何の関係もないのであれば、OpenAIにはこれを明確にし、政策論争が社内の壁の中で依然として根強く残っていることを示す機会がある。これが実現できなかった場合、警戒よりも開発が優先されたのではないかという疑惑が残ることになる。
企業がガードレールを緩めると、誰が依然として地図を保持しているかに世界中が注目します。この場合、境界線を引く任務を負った人物の 1 人がもうその部屋にいないため、必要な意見の相違がなければ、いかなる決定も不完全になる可能性があります。
OpenAI は、大人を大人として扱いたいと考えています。その目標には、社内の批判者を不可欠なパートナーのように扱うことが含まれるべきです。そうしないと、大人向けモードは、子供にとって安全な状態を保つという最も重要な点で大人らしくなくなります。
Google ニュースで TechRadar をフォローしてください そして お気に入りのソースとして追加してください 専門ニュース、レビュー、意見をフィードで入手するため。ぜひフォローボタンをクリックしてください！
そしてはい、あなたもできます TikTokでTechRadarをフォローしてください ニュース、レビュー、ビデオ形式の開封、および当社からの定期的な更新情報については、 ワッツアップ とても。
あらゆる予算に最適なビジネス ノートパソコン
