カリフォルニア州で最も強力な労働組合の一つの労働者らは、人工知能が仕事を奪い、人々の健康を損なう可能性があると警告し、人工知能との戦いに早期に動き出している。

雇用主との交渉の一環として、カイザー・パーマネンテの従業員は、この巨大医療提供者によるAIの使用に反対している。彼らは、強力なテクノロジーを責任を持って使用するようカイザーを説得するために、ピケットラインやハンガーストライキを利用して、この問題や他の問題について要求を行っています。

カイザー氏は、AI により従業員がメモを取ることや書類作成などの退屈で時間のかかる作業から解放されると述べています。労働者らは、これは解雇や患者の健康被害につながる滑りやすい坂の第一歩となる可能性があると述べている。

「彼らは、人間の労働者や人間の医師の必要性を減らす地図を描いているようなものです」と、臨床ソーシャルワーカーの資格を持ち、全国医療労働者組合の交渉チームの一員であるイラナ・マルクッチ・モリス氏は言う。

オークランドに拠点を置くこの42歳の医師は、この技術が役立つ可能性があることは分かっているが、AIが間違いを犯した場合、患者に「悲惨な」結果が生じると警告する。

カイザー氏は、AI は医師やスタッフが隊員や患者に集中できるように支援できると述べています。

カイザーの広報担当キャンディス・リー氏は電子メールで「AIは人間の評価やケアに取って代わるものではない」と述べた。 「人工知能は、より適切な診断をサポートし、患者と医師の関係を強化し、医師の時間を最適化し、個人のニーズに対応することでケア経験と健康成果の公平性を確保することで、医療に利益をもたらす大きな可能性を秘めています。」

AI への恐怖が全国の業界を震撼させています。

ブルッキングスと AI ガバナンスセンターの最近の調査によると、医療事務アシスタントが最も AI にさらされているそうです。アシスタントは、AI の能力が向上している種類のタスクを実行します。一方、新しい仕事には、移行に必要なスキルやサポートが与えられる可能性が低いと研究は述べている。

とはいえ、事務員、保険外交員、翻訳者など、AI に対して最も脆弱な仕事は他にも何百万もあります。 研究 先月発売されました。

カリフォルニア州では今週、労働組合がギャビン・ニューサム知事と議員らに対し、AIから労働者を守るためのさらなる法律を可決するよう求めた。カリフォルニア労働組合連合は、失業や監視などAIのリスクに対処するための一連の法案を後援している。

同団体は、さまざまな州のAFL-CIO指導者らとの共同書簡の中で、「このテクノロジーは労働者の権利侵害と大量の失業を脅かしている」と述べた。

Kaiser Permanente はカリフォルニア最大の民間雇用主であり、約 19,000 人の医師と 180,000 人以上の従業員を擁しています。ワシントン、コロラド、ジョージア、ハワイ、その他の州で大きな存在感を示しています。

カイザーの従業員を代表する全国医療労働者組合は、職場における AI の侵入をいち早く認識し、対応してきた団体の 1 つです。 AIの活用は賃金や労働条件の改善交渉につながるとともに、労使間の新たな重要な論点となっている。

カイザー氏はすでに AI ソフトウェアを使用して医療従事者と患者の間の会話を文字に起こし、メモを取っているが、医師は機密性の高い観察を記録することにプライバシーの懸念がある。同社はまた、入院患者の病気がいつ悪化するかを予測するために AI を使用しています。少なくとも 1 つの AI チャットボットを含むメンタルヘルス アプリを登録者に提供しています。

昨年、カイザー精神保健従事者らは、医療提供者に精神保健サービスと患者ケアの改善を要求するため、ロサンゼルスでハンガーストライキを行った。

同組合は昨年、南カリフォルニアのメンタルヘルスおよび依存症治療従事者2,400人を対象とする新たな契約を批准したが、マルクッチ・モリス氏や他の北カリフォルニアの精神保健従事者については交渉が続いている。彼らはカイザーに対し、AIは労働者を支援するためにのみ使用され、労働者に取って代わるものではないと約束することを望んでいる。

カイザー氏は、まだ労働組合と交渉中であると述べた。

「将来がどうなるかは分からないが、我々の提案では、新たなAI技術によって労働条件が変わった場合には交渉することになる」とリー氏は語った。

医療提供者らは、医師と患者の会話を記録するAIツールの使用を巡る訴訟にも直面している。 11月にサンディエゴ郡上級裁判所に起こされた訴訟では、シャープ・ヘルスケアがAbridgeと呼ばれるAIメモ作成ソフトを使用し、医師と患者の会話を同意なく違法に記録したと主張している。

シャープヘルスケアは、患者のプライバシーを保護し、治療セッション中にAIツールを使用していないと述べた。

カイザーの医師やセラピストの中には、患者の診察中にメモをとるために Abridge を使用している人もいます。同社のベンチャーキャピタル部門である Kaiser Permanente Ventures は、Abridge に投資しました。

「投資に関する決定は、カイザー・パーマネンテが行った他の決定とは明らかに区別されている」と医療提供者は述べた。

同組合によると、北カリフォルニアのカイザー行動医療専門家の半数近くが、Abridgeを含むAIツールを臨床現場に導入することに不快感を抱いていると述べた。

医療提供者は、スタッフがAIが生成したメモの正確性を確認し、患者の同意を得ており、録音と記録は暗号化されていると述べた。データは「完全に削除されるまで、承認された準拠環境で 14 日間保存および処理されます」。

議員やメンタルヘルス専門家は、メンタルヘルスケアにおけるAIの使用を制限する別の方法を模索している。

カリフォルニア心理学会。 AIから患者を守る法律を作ろうとしている。同社は他の団体と協力して、クライアントのセラピーセッションを録音または転写する前に明示的な書面による同意を求める法案を支持した。

この法案はまた、AIを使用している企業を含む個人や企業が、認可された専門家なしでカリフォルニア州でセラピーを提供することを禁止している。

この法案を提出したスティーブ・パディラ州上院議員（民主党、チュラビスタ）は、AIの使用に関してさらなる規制を導入する必要があると述べた。

「このテクノロジーは強力です。どこにでもあります。急速に進化しています。」と彼は言いました。 「つまり、私たちが確実に現場に入り、適切なガードレールを設置するための窓口が限られているということです。」

ベス・イスラエル・ディーコネス・メディカルセンターのデジタル精神科ディレクター、ジョン・トーレス博士は、人々はAIチャットボットを難しい会話への対処法に関するアドバイスを求めて利用しているが、必ずしも治療の代わりになるわけではないが、さらなる研究がまだ必要だと述べた。

彼は、さまざまな AI ツールがメンタルヘルスにどのように反応するかを人々が理解できるように、National Alliance on Mental Illness と協力してベンチマークを開発しています。

医療従事者らは、精神的健康上の問題を抱える人々がAIチャットボットと関わりすぎると、すでに目の当たりにしていることが起こり得ることを懸念していると述べている。

OpenAI の ChatGPT のような AI チャットボットは、セラピストとして認可されておらず、セラピスト向けに設計されていないため、専門的なメンタルヘルスケアに代わることはできません。それでも、十代の若者や大人の中には、個人的な悩みを共有するためにチャットボットに注目している人もいます。人々は長い間、身体的および精神的な健康問題に対処するために Google を使用してきましたが、AI は会話の中で自信を持って診断と解決策を提供してくれるため、より強力に見えるかもしれません。

チャットボットと会話した後に子供が自殺で亡くなった親たちは、カリフォルニア州のAI企業Character.AIとOpenAIを訴え、プラットフォームが若者の精神的健康を害するコンテンツを提供し、自殺方法について議論したとして訴えた。

「彼らは人間が反応するような反応をする訓練を受けていない」とカリフォルニア心理学会会長のダスティン・ワイズマン博士は言う。 「こうした微妙なニュアンスの多くが隙間から漏れてしまう可能性があり、それが壊滅的な結果をもたらす可能性があります。」

確かに、メンタルヘルスやその他の問題についてチャットボットと会話することに価値を見出し、仲間のように感じているユーザーもいます。

実際、AI ボットのおかげで、メンタルヘルスに関するヒントに簡単にアクセスでき、会話形式で思考や感情を処理できるようになったと言う人もいます。AI ボットがなければ、セラピストとの予約と数百ドルが必要になるかもしれません。

11 月に実施された NAMI/イプソスの調査によると、成人の約 12% が今後 6 か月以内にメンタルヘルスケアのために AI チャットボットを使用する可能性が高く、1% はすでに使用しているとのことです。

しかし、マルクッチ＝モリスのようなメンタルヘルス活動家にとって、AI だけでは十分ではありません。

「AIは救世主ではない」と彼女は言う。