おかえり ループの中でAI に関する TIME の新しい週 2 回ニュースレター。ブラウザでこれを読んでいる場合は、次の記事が直接受信箱に届くように購読してみてはいかがでしょうか?

知っておくべきこと: Waymo が池を渡る

水曜日の夜、私はグーグル傘下のロボタクシー会社ウェイモが主催するロンドンのプレスイベントに行ったが、ウェイモは２０２６年第４四半期までにロンドン市民が無人タクシーを利用できるようにすることを目指していると発表した。

ベルヴェデーレ市 – Wemosは数年前から米国の一部の都市で自動運転を行っているが、ロンドンで何が起こっているかに注目する価値がある。すべてが計画通りに進めば、ここがWaymoが立ち上がる最初のヨーロッパの都市となる。 Waymoが現在テスト段階にある東京でどれだけ早く発売できるかによっては、これがWaymoの初の国際発売となる可能性もある。言い換えれば、ロンドンは、米国の自動運転車を外国の環境に持ち出すのがいかに簡単であるかを示しており、したがって、ロボタクシーがどれくらい早く世界を席巻すると予想できるかということだ。 Waymo がその目標を達成したかどうかを確認するには、1 年後にこの物語に戻ってみるのが役立つでしょう。

新しい（古い）世界 – ロンドンっ子として、私は直接言えます。この都市はアメリカの都市とは大きく異なります。グリッドに基づくものではありません。むしろ、これは約 2,000 年にわたる無計画な建設と再建の集大成であり、道路が曲がりくねって狭くなることもあります。ここでは歩道橋渡しが合法であり、自転車の方がはるかに一般的です。その人口密度は、現在 Waymo が事業を展開している多くの都市よりもはるかに高く、通常の通りは狭いだけでなく、交通量も多いことを意味します。

静かに安心する – こうした状況にもかかわらず、ウェイモは自社の車両をロンドンの路上に走らせるのにそれほど説得力は要らないと自信を持っている。同社によると、これまでに2,000万回の乗車から収集したトレーニングデータによってAIが自動車に動的な道路状況を理解し、リアルタイムで適応できるようになったという。 Waymo関係者は、これらのシステムを新しい規制に準拠するように変更するのは比較的簡単だと主張している。同氏は、これは 3 つの段階で起こるだろうと述べています。現在、第1段階として、ロンドン市内で数十台のWaymo車が人間によって運転され、街路をマッピングし、アメリカの都市とどのように異なるかを理解するのに役立つAIトレーニングデータを収集している。その後、フェーズ 2 では、Wemos は万が一に備えて人間の「安全ドライバー」がハンドルを握って自動運転のテスト運転を開始します。このプロセスが終了し、政府が最終承認を与えた後にのみ、ウェイモはフェーズ 3 に入り、自動車が一般に使用できるようになる。

ルールに従って – ロボタクシーが技術的規制によって適切に仕事を遂行できる稀なケースであるように見えることは注目に値します。世界中の都市で料金を徴収し、規制当局に巻き返しを強いたウーバーとは異なり、ウェイモは政府調達で意図的にゆっくりと立ち上げている。部分的には、彼らには選択の余地がなかった。ほとんどの場所で、無人運転車は違法性の基準から合法化されなければならなかったのだ。そして、世界中で人為的な交通事故死が毎年100万人以上発生しているにもかかわらず、たとえ1人の死亡でもロボタクシー会社の崩壊を引き起こす可能性がある。それでも、これは、ソーシャル メディア プラットフォームや AI チャットボットが最初に起動され、後でセキュリティ問題が解決されるという、ソフトウェアでよく見られる戦略とは大きく異なります。これまでのところ、非常に安全です。水曜日のイベントで同社は、米国の自動車が人間の運転手による事故に比べ、1マイルあたりの事故で重傷以上の事故が90％少ないことを示す統計を発表した。 Waymo の英国および欧州公共政策責任者であるベン・ローウェンスタイン氏は、「私たちの実績がまさにそれを物語っていると考えています」と述べています。 「私たちはロンドンにとって素晴らしいパートナーでありたいと思っています。」

知っておくべき人物: ダリオ・アモデイ、Anthropic CEO

今週初め、Anthropic CEOのDario Amodei氏は、自身のブログに次のタイトルの痛烈なエッセイを発表した。 テクノロジーの青春時代。 これはある意味、彼が昨年書いたエッセイの続編であり、高度なAIを生み出すリスクが回避され、人類がユートピア状態で暮らす未来を描いたものだ。しかし、この最近のエッセイはそれほど勇気づけるものではありません。これはおそらく、思考機械の出現によってますます不安定になる私たちの世界が直面する脅威を最も明確に説明したものです。

「人類はほぼ想像を絶する力を託されようとしている」とアモデイ氏は書いている、「そして私たちの社会的、政治的、技術的システムがそれを行使するのに十分な成熟度を備えているかどうかは非常に不透明である。」

このエッセイは長いですが、時間を割く価値があります。これは、AI 開発の急速なペースによって人類が直面するリスクを包括的かつ合理的に考察したものです。アモデイ氏は、相互に構築されている 5 つの章で、潜在的な脅威のさまざまなベクトルについて説明しています。

まず、AI の調整、つまり強力な AI システムが人間の利益に反して機能するリスクがあります。 2つ目は、悪用のリスク、つまり今日、例えば学校での銃乱射事件をあおって世界的なパンデミックを引き起こしているのと同じ種類の人々にAIが力を与える可能性である。たとえ回避できたとしても、第三に、完全な監視、権威主義的支配、地政学的大変動を可能にする強力な AI システムのリスクが生じます。そして第四に、もし何らかの奇跡で世界が大混乱に陥る可能性があるとすれば、高度なAIによってほとんどの人が職を追われ、政治的な反発の可能性が高まり、他のリスクに賢く対処するという課題がさらに困難になるというリスクもある、とアモデイ氏は書いている。 （第五に、その過程にはおそらく多くの「未知の未知」があるだろうと彼は指摘する。）

失望にもかかわらず、アンスロピックがこうしたリスクに対処していると信じている方法の例をエッセイに記入しているアモデイ氏は、楽観的な雰囲気で締めくくっている。

「これからの数年間は、信じられないほど困難なものになるだろう」と彼は書いている。 「しかし、研究者、指導者、市民として過ごした中で、私は勝利できると信じる十分な勇気と気高さを見てきました。最も困難な状況に置かれたとき、人類は、最後の瞬間にでも、勝つために必要な力と知性を集める方法を持っているということです。私たちに失う時間はありません。」

AI の稼働

テスラはカリフォルニアの自動車工場を人型ロボットのオプティマス製品ラインを構築するためのハブに転換しているが、これはイーロン・マスク氏の至宝がロボット工学に全力で取り組んでいることの表れだ。テスラはモデルSとモデルの製造も中止するが、今週史上初の年間収益の減少を報告したテスラの自動車事業と同様、ロボット分野の取り組みも、比較的安価で高性能な人型ロボットを生産している中国との激しい競争に直面している。 （私が昨年紹介した米国のスタートアップ、Figure AI については言うまでもありません。）