おそらく、今日のあなたは 5 年前よりも人工知能についてもっと考えているでしょう。 2022 年 11 月に ChatGPT が開始されて以来、私たちはチャットボットやスマート ホーム テクノロジーから銀行業務やヘルスケアに至るまで、ほとんどの生活分野で AI と対話することに慣れてきました。

しかし、数学者で放送作家のハンナ・フライが示すように、このような急速な変化は予期せぬ問題を引き起こす ハンナ・フライとの AI 機密情報BBC の新しい 3 部構成のドキュメンタリーでは、テクノロジーによって生活が変わってしまった人々と彼女が話します。彼は話した 新しい科学者 AI をどのように見るべきか、現代数学における AI の役割、そしてなぜ AI が世界経済に影響を与えるのか。

ビーサン・アッカーリー: 番組では、AI が私たちの人間関係や現実感に何をしているのかを探ります。その一部は、「AI のお調子者」、つまりこれらのデバイスは私たちが聞く必要があるものではなく、私たちが聞きたいものを提供してくれるという考えに由来しています。これはどうして起こるのでしょうか?

ハンナ・フライ: 初期のモデルはとても魅力的でした。あなたが何を書いても、彼らは「なんてことだ、あなたは本当に素晴らしい、私が今まで経験した中で最高の作家だ」と言うでしょう。今は少しは良くなりましたが、それが根本的な矛盾です。私たちは、彼らに助けてもらい、励ましてもらい、自分が重要であると感じてもらいたいと考えています。これらは本当に良好な人間関係から得られるものです。

それに、人間関係が本当に良好であれば、難しいことでもはっきりと言うことができます。 AI にそれを注ぎ込みすぎると、AI は役に立たなくなり、理屈っぽくなり、一緒にいて楽しくなくなります。パートナーをセラピストとして利用し、AIが「彼を追い出せ」と言ったために、パートナーと別れた人も膨大にいます。

仕事を辞めた人もいる。 AI を利用して金儲けをしようとしたものの、AI の能力を過信したために財産を失った人たちがいます。これらすべての人々を含め始めると、それは本当に大きなグループになるでしょう。ソーシャルメディアバブルと過激化の影響を受けた人を誰もが知っていると思います。これはその新しいバージョンだと思います。

こうした問題を目の当たりにして、AI の使用方法は変わりましたか?

変わったのは、それを知らせる方法です。そこで今では、私が見ていないことを教えて、自分の偏見を見つけてくださいと定期的に促しています。お調子者にならないで、難しいことを言ってください。

AIにこうなってほしくないのなら、どうなってほしいでしょうか？

答えはおそらく状況によって異なります。科学分野では、驚くべき例があります。私はアルファフォールドについて考えています。 [an AI that predicts protein structures]。数学では驚くべき進歩が見られ、アルゴリズムは人間とは異なる知性を備えています。しかし、人間が世界を理解する方法と概念的に重複しない限り、優れた論理モデルは構築できないと思います。だからもっと人間的になる必要があると思う。

何年も解決されなかった数学の問題が AI を使用して解決されたというニュースが毎日のように流れているようです。興奮しますか？

私は、あたかもこの素晴らしい数学の地図があって、人間の数学者が特定の領域にいて、その周りに円を描いているかのように考えるのが好きです。彼らは近くのものとのつながりを常に認識しているわけではありません。驚くべき数学者たちは、日本の数学者が数学の 2 つの異なる領域の間に橋を発見した谷山・志村予想など、地図の 2 つの領域の間に橋を発見しました。そして、ここで知ったことはすべてそこでも適用され、その逆も同様です。

AI は「ここを少し見てください。これはあまり研究されていない実りある分野のようです」と言うのが非常に上手だと思います。これは非常にエキサイティングです。 AI が苦手とするのは、限界を押し広げることです。そして、それが本当に苦手なことは…より広範で大きな原則を完全に抽象化することです。 1900 年までに AI にすべてを与えても、AI は一般相対性理論を思いつかないだろう、と人々はいつも言います。ですから、AI が人間の数学をより速く、より効率的に、よりエキサイティングにするこの素晴らしい場所に私たちがいることに今でも興奮していますが、それでも私たちはそれを必要としています。

AI については多くの誤解があります。できるなら誰を排除したいですか？

人々はそれが全能、ほぼ全能であると想像します。 「AIがこう言った、AIが私にこれらの株を買うように言った。」 AI が超人的なタスクを実行できる状況はほとんどありませんが、フォークリフトも同様です。私たちは人間にはできないことを長時間行うことができる装置を作りました。これは、彼らが神のような存在であるとか、触れられない知識を持っているという意味ではありません。

フォークリフトに銀行口座へのアクセスを許可するつもりはありません…

いいえ！絶対に。それがまさにその構造だと思います。彼らは言語を話し、私たちに話しかけるので、自分が存在しているように感じます。ウィキペディアにはそのような問題はありません。これは実際に能力のある生き物というよりも、Excel のスプレッドシートとして考えたほうがよいかもしれません。

なぜ私たちは AI を擬人化する傾向があるのでしょうか?

私たちの体は、認知的社会的相互作用を行うように組み込まれています。私たちは賢くて社交的な種です。そしてそれは一見賢く、社会的な存在のように見えます。もちろんキャラクターも入れます。これまでの私たちのデザインには、他のことを強制するものは何もありませんでした。

その擬人化の衝動から逃れる方法はないのでしょうか？

それを個人の手に委ねるのは本当に不公平だと思います。これは、ジャンクフードは簡単に入手できるので、過剰に摂取しないようにするのはあなたの責任であると言っているようなものです。これらのインターフェイスの設計方法、ユーザーとのやり取り、これらすべてが人々をこの罠に陥らせるという非常に良い証拠を私たちは現在入手しています。そして、人々がこうしたウサギの穴に陥るのを防ぐことができるのは、これらのシステムの設計にあると私は思います。

人々が非常に孤立し、孤独になるなど、AI によって明らかにされる社会問題は数多くあります。しかし、AI はこれらの問題を解決できないでしょうか?

「わかった。孤独を感じているならチャットボットに話しかけることはできないから、それを禁止しよう」と言ったとしても、孤独な人は依然として存在します。そしてもちろん、誰にとっても豊かな人間関係があればそれに越したことはありませんが、そうではありません。したがって、これが私たちがいる世界であることを考えると、チャットボットと話すことで孤独に関連する最悪の問題のいくつかを軽減できる状況がいくつかあると思います。しかし、これらはデリケートな問題です。人間の疑問を実際に解決するためにテクノロジーを使い始めると、それは信じられないほど脆弱になります。

遠い未来の話をしましょう。私たちは AI を使った極端なシナリオについてよく考えます。ペーパークリップを作るように設計された超知能 AI が私たち全員をペーパークリップに変えてしまったとしましょう。そのような終末的な考え方はどれほど役に立つでしょうか？

私は、これらの突拍子もない現実離れしたシナリオが、人々の生活に影響を与える決定がアルゴリズムによって行われているという、本当に重要なことから目を逸らしているのではないかと考えていたことがありました。長年にわたって、私は考え方を変えてきました。そのようなことを心配することで、そのような事態が起こらないよう技術的な安全策を講じることができると考えたからです。

ですから、心配することは無意味ではなく、心配することには実際には力があるのです。 AI からは本当に悪い結果が生じる可能性があり、それに対して私たちが正直であればあるほど、それらを軽減できる可能性が高くなります。 Y2Kのような状況にしたいのです。これが私たちが心配し懸念していたことであり、それが起こらないようにするために取り組んでいればよかったのですが。

私たちが汎用人工知能に到達する日が来ると思いますか?

AGI とは何かという明確な定義はありません。しかし、AGI がコンピューターを含むあらゆるタスクにおいて、少なくともほとんどの人間と同等の能力を備えていると仮定すると、はい、ほぼその目標に達していることになります。 AGI とは、考えられるあらゆるタスクにおいて人間の能力を超えていることを意味すると考える人もいます。それは分かりません。しかし、AGI は実際にはそれほど遠くないと思います。今後5年から10年の間に、大きな変化が起こると私は本当に思っています。

どのような変化がありますか?

人類の歴史を通じて私たちが慣れ親しんできた経済モデルに大きな変化が訪れると思います。私は科学に大きな飛躍が起こると考えており、医療デザインにおいても同様に非常に楽しみにしています。私たちの社会の構造全体は、自分の労働、知識、人間の知性をお金と交換し、それを使って物を買うという考えに基づいて構築されています。そこにはいくつかの弱点があると思います。