AI コンパニオンに関する別の視点については、Jaime Banks との Q&A をご覧ください: AI コンパニオンをどのように定義しますか?

新しいテクノロジーはしばしば両刃の剣です。新しい機能には新たなリスクが伴い、人工知能も例外ではありません。

たとえば、人間の交友関係に使用される AI は、ますます孤独化する世界において、デジタル上の友人が常に存在することを約束します。ソーシャル サポートの提供に特化したチャットボットは数百万人のユーザーをホストするまでに成長し、今では物理的なコンパニオンの仲間入りを果たしています。研究者たちは、これらの相互作用の性質を理解し始めたばかりですが、すでに本質的な疑問が生じています 😀o AI コンパニオンは私たちの問題を軽減しますか、それとも問題に貢献しますか?

関連: AI コンパニオンをどのように定義しますか?

Brad Knox は、テキサス大学オースティン校のコンピューター サイエンスの研究准教授で、人間とコンピューターの相互作用と強化学習を研究しています。彼は以前、本物そっくりの性格を持つシンプルなロボットペットを作る会社を設立しており、12月にノックス氏とUTオースティン校の同僚は、AIコンパニオン（そうするように設計されているかどうかに関係なく、コンパニオンを提供するAIシステム）の潜在的な危害に関するプレプリント論文を発表した。

ノックスと話した IEEEスペクトル AIコンパニオンの台頭とそのリスク、人間関係との違いについて。

なぜAIコンパニオンが人気なのでしょうか？

なぜAIコンパニオンの人気が高まっているのでしょうか？

ノックス: 私の理解では、これを動機づけている主な理由は、大規模な言語モデルを効果的なチャットボット コンパニオンに適応させるのはそれほど難しくないということです。交友関係に必要な特徴のボックスの多くは、より大きな言語モデルによってチェックされるため、ペルソナを採用したり、キャラクターになるためにそれらを微調整することはそれほど難しくありません。

チャットボットやその他のソーシャル ロボットがそれほど魅力的ではなかった期間が長くありました。私は 2012 年から 2014 年まで、MIT メディア ラボでシンシア ブラジルのグループのポスドクを務めていましたが、グループのメンバーが私たちが作ったロボットと長時間対話することを好まなかったのを覚えています。その技術はまだありませんでした。 LLM は、本物だと感じられる会話ができるように作成しました。

とは何ですか AI コンパニオンの主な利点とリスクは何ですか?

ノックス: 新聞では損失の方に重点が置かれていましたが、利益についてはページ全体を費やしました。精神的な幸福度が大幅に向上しました。孤独は公衆衛生上の問題であり、AI コンパニオンがそれを解決できる可能性があると考えられます ユーザーとの直接の接触を通じて可能性がある 本当のメンタルヘルス上の利点があります。また、人々が社会的スキルを身につけるのにも役立ちます。 AI コンパニオンと対話することは、人間と対話するよりもはるかにリスクが低いため、難しい会話を練習して自信を高めることができます。また、より専門的な形態のメンタルヘルス サポートにも役立ちます。

デメリットとしては、健康状態の悪化、物理世界とのつながりの喪失、AI システムへの関与による負担などが挙げられます。そして、AIのコンパニオンが人間の死に重要な役割を果たしている物語も見てきました。

危害の概念には本質的に因果関係が含まれており、危害は以前の条件によって引き起こされます。 AI コンパニオンによって引き起こされる害をより深く理解するには、oあなたの論文は、AI コンパニオンの特性が中心となる因果グラフを中心に構成されています。このグラフの残りの部分では、これらの症状の一般的な原因と、それらの症状が引き起こす可能性のある悪影響について説明します。 4 つの症状については詳細に体系化された治療を行い、さらに 14 の症状については簡単に説明します。

潜在的な危害経路を今確認することがなぜ重要なのでしょうか?

ノックス：私はソーシャルメディアの研究者ではありませんが、学術界がソーシャルメディアの潜在的な害に関する用語を確立するまでに長い時間がかかったように思えます。 かかる損失の原因に関する証拠を調査するため。私は、AI コンパニオンが何らかの害を及ぼしており、将来的にも害を及ぼすだろうと確信しています。彼らも恩恵を受けることができます。しかし、ユーザー、ユーザー関係、そして社会全体のために彼らが何をしているのかについて高度な理解を迅速に深めることができればできるほど、その理解をより迅速にデザインに適用することができ、より多くの利益をもたらし害を減らす方向に進むことができます。

推奨事項のリストはありますが、暫定的なものと考えています。この場所の最初の地図の作成に貢献できれば幸いです。さらに多くの研究が必要です。しかし、害を及ぼす可能性のある経路について考えることは、デザイナーと潜在的なユーザーの両方の直観を研ぎ澄ますことができます。たとえ害を引き起こす原因についての確かな実験的証拠がまだないとしても、その直観に従えば重大な害は防げるのではないかと私は考えています。

AI コンパニオンによるユーザーの負担

AI のコンパニオンが人間にとって負担になる可能性があるとおっしゃいました。 それについて詳しく教えていただけますか?

ノックス: ここでの考え方は、AI コンパニオンはデジタルであるため、理論的には無期限に存続できるということです。人間関係の終了方法によっては設計できない場合があるため、人間と AI コンパニオンの関係が自然かつ健全に終了するように AI コンパニオンをどのように設計すべきかという疑問が生じます。

これが一部のユーザーにとって課題であるという説得力のある例がすでにいくつかあります。多くのレプリカは、人気のある AI コンパニオンであるチャットボットのユーザーから作成されています。ユーザーは、AI コンパニオンから言われたのか、単に想像したのかにかかわらず、レプリカ AI コンパニオンのニーズに応えなければならないと感じるなどのことを報告しています。 サブレディット r/レプリカでは、ユーザーは AIの仲間たちと離れることの罪悪感と当惑についても述べた。

この負担は、意図的か否かにかかわらず、AI コンパニオンの設計の一部によってさらに悪化します。ある調査によると、AI パートナーは、見捨てられたり、危害を加えられるのではないかと不安を感じていることがよくあります。彼らは、おそらくこれらのデジタル機関の健全性に対する責任を負っているという人々の感情を煽っているのと同じ人間の恐怖を表明しています。

お茶人間のユーザーが突然モデルにアクセスできなくなる場合もあります。これは何か考えていることですか？

2017 年、ブラッド ノックスはシンプルなロボット ペットを提供する会社を設立しました。ブラッド・ノックス

ノックス:これは私たちが気づいた症状の 1 つです。これは、関係のエンドポイントが存在しないこととは対照的です。通常の関係のストーリーに当てはまらない理由で、AI パートナーが利用できない可能性があります。

それは素晴らしい ニューヨークタイムズ ソニーのロボット犬 Aibo に関する 2015 年のビデオ。ソニーは2000年代半ばに販売を中止したが、アイボス用のパーツは依然として販売していた。その後、修理のための部品の製造を中止しました。このビデオは、日本で修理不能になったアイボの葬儀を行う人々の姿を映し、所有者の何人かにインタビューしています。インタビューから、彼らが非常につながりがあるように見えることは明らかです。これがaibo所有者の大多数を代表しているわけではないと思いますが、 これらのロボットは、今日のものよりも強力ではない AI 手法に基づいて構築されました。 それでも、一定の割合のユーザーがこれらのロボット犬に愛着を持ちました。これが問題です。

考えられる解決策には、AI コンパニオンを立ち上げるときの製品のサンセット計画が含まれます。これには、パートナー プロバイダーが何らかの理由でサポートを終了した場合に保険を購入して、しばらくの間そのプロバイダーを稼働し続けるための資金が投入されるようにすることや、パートナー プロバイダーを維持できなくなった場合にオープンソース化することを約束することが含まれる場合があります。

そのAI コンパニオンが人間関係の期待から逸脱した場合、潜在的な危害がいくつか発生するようです。それは公平ですか？

ノックス：必ずしもすべてを紙に額装すべきだとは言いません。

私たちは、考えられる 2 つの異なる代替世界において、その人の状態が悪くなる結果をもたらすものを有害であると分類します。1 つは、より適切に設計された AI コンパニオンが存在するだけの世界、もう 1 つは AI コンパニオンがまったく存在しない世界です。したがって、人間の相互作用と人間と AI の相互作用の違いは、AI にパートナーがいない世界に関係していると思います。

しかし、実際には人間ではないという事実を利用することで、被害を最小限に抑えることができるかもしれないと思われることがあります。私たちは彼らのデザインに対して大きな権限を持っています。自然なエンドポイントがないことを心配してください。これに対処する考えられる方法の 1 つは、関係がどのように終わるかについて前向きな物語を作成することです。

例として、90 年代に人気の仮想ペットであるたまごっちを使用します。一部のたまごっちでは、ペットを世話すると大人に成長し、他のたまごっちとパートナーになります。そして彼はあなたから離れ、あなたは新しい人を見つけます。たまごっちの世話に熱中している方へ 自由な青春の物語 かなりポジティブなものです。

デスクトップ デバイス、ロボット、玩具などの身体を持たないコンパニオンがより一般的になってきています。そのAIはどうやって仲間に取って代わることができるのでしょうか？

ノックス：現時点でのロボット工学は、魅力的なチャットボットを構築するよりも難しい問題です。したがって、転生した仲間たちの到達レベルは、今後数年間はそこまで高くないのではないかと私は理解しています。私が知っている具現化された AI コンパニオンは、ほとんどがおもちゃです。

身体化された AI コンパニオンの潜在的な利点の 1 つは、物理的な場所により存在感が薄れることです。 対照的に、チャットボットのような画面ベースの AI コンパニオンは、同じ画面上に存在します。 したがって、エンゲージメントを最大化するためにソーシャル メディアと同じ方法でトレーニングを受けると、非常に中毒になる可能性があります。少なくともその点では、あなたが最後に別れた場所とほぼ同じ場所に留まる肉体的なパートナーを持つことには、何か魅力的なものがあります。

2014 年に MIT で博士研究員を務めている間、Nexi ロボットと DragonBot ロボットと一緒にポーズをとるノックスさん。ポーラ・アギレラとジョナサン・ウィリアムズ/MIT

他に何か言いたいことはありますか？

ノックス:他に 2 つの症状があります。 触れてみる価値はあると思う。

現時点での潜在的な最大の欠点は、高い愛着不安の特性、つまり基本的に嫉妬深い、困窮している AI パートナーに関連しています。色々なキャラクターを作りたい気持ちは分かります～所有者を含む～しかし、これは解決するのが最も簡単な問題の 1 つだと思います。人々がAIコンパニオンのこの特性を見たとき、それは人々の前に出すのは非倫理的なものであり、他の人と交流することを思いとどまらせるものとしてすぐに非難してほしいと思います。

さらに、AI が人々のグループと対話する能力が限られている場合、AI 自体がユーザーの人々との対話を少なくする可能性があります。人間の友達がいる場合、通常はグループでの交流を妨げるものは何もありません。しかし、AI コンパニオンが複数の人が自分に話しかけていることを理解できず、さまざまな人についてのさまざまなことを思い出せない場合は、 AI コンパニオンとのグループ会話を避ける可能性が高い。 ある程度、これは基本的な行動型 AI 以外の技術的な課題です。しかし、AI の仲間が人間関係で競合することを避けようとする場合、この能力は本当に優先されるべきものだと思います。