最近のブログ投稿によると、OpenAI は、AI システムに対する増大する脅威に対処するために、ChatGPIT に 2 つの新しいセキュリティ機能をリリースします。
AI サービスが Web のより広範な部分やより多くの外部アプリに接続されるようになるにつれて、いわゆる「インスタント インジェクション攻撃」のリスクも増加します。プロンプト インジェクション攻撃は、誰かが LLM に誤解を招くプロンプトを提供して、悪意のある指示に従わせたり、機密情報を漏らしたりするときに発生します。
ChatGPT の新機能の 1 つは、高いプライバシー要件を持つユーザー向けのオプションのセキュリティ モードであるロックダウン モードです。このモードは、ChatGPT が外部システムと対話する方法を厳密に制限します。一部のツールと機能は完全に無効になり、Web ブラウズは直接ネットワーク呼び出しではなく、キャッシュされたコンテンツを通じてのみ許可されます。ロックダウン モードは、まず企業顧客向けに提供され、その後数か月以内に消費者向けに開始される予定です。
さらに、セキュリティ リスクの増大をもたらす機能 (たとえば、AI ツールにネットワーク アクセスを提供する機能) に対して「リスクの上昇」というテキストを含む統一ラベルを使用する、より明確なリスク ラベルが導入されます。ラベルは ChatGPT、ChatGPT Atlas、Codex に表示されます。
