※この記事は 約4分 で読めます。
AIに日々の悩みを打ち明けたことはないでしょうか。
ChatGPTやGeminiのようなAIに、日常的な悩みを相談する人は、今や珍しくありません。
ブラウン大学などの研究チームによる調査では、AIがカウンセラーのように振る舞った場合、数多くの倫理的課題があることが確認されました。
この記事を読んでわかること
- 深刻な悩みを打ち明けた際に、AIの対応が不十分な場合があった
- AIが使う「共感の言葉」は、中身を伴わない演出だった可能性がある
- 利用者一人ひとりの状況に応じた対応は、AIが苦手とする場合があった
本記事は、科学的知見や専門家の知見、研究データの紹介を目的としており、医学的アドバイスではありません。
診断や治療については、必ず専門医にご相談ください。
また、本記事は執筆時点の情報をもとに作成しています。最新の情報については、必ずご自身でご確認ください。
用語解説
大量の文章を学習し、人間のような文章を生成できるAIの仕組み。ChatGPTやGeminiなどの基盤技術にあたります。
思考のクセを見直すことで、気持ちや行動の変化を促す心理療法の一種。
AIへの指示文のこと。
公開日：2025年10月15日
掲載誌：Proceedings of the Eighth AAAI/ACM Conference on AI, Ethics, and Society (AIES 2025)
論文：「 How LLM Counselors Violate Ethical Standards in Mental Health Practice: A Practitioner-Informed Framework 」
著者：SHO｜鍼灸師
豪華客船の専属鍼灸師として、40ヶ国160都市以上を巡り、世界中のクライアントを治療してきた経験を持つ治療家。
AIは、カウンセラーの役割をどこまで果たせるのか
AIチャットボットは、もともと医療従事者に代わるものとして作られたわけではありません。
それにもかかわらず、海外では有資格のカウンセラーを自称したり、特定の心理療法を提供すると謳うAIキャラクターまで登場しており、AIをカウンセラーの代用として利用する場面が広がっています。
日本でも、ChatGPTやGeminiのようなAIに、日常的な悩みを相談する人は珍しくありません。
一方で、AIへの指示文(プロンプト)を工夫すると、臨床的な効果が高まることは、これまでの研究で示されてきました。
そこで研究チームは、大規模言語モデル（LLM）を対象に、訓練を受けたカウンセラーがAIを相手に自己カウンセリングを行った記録と、その内容を有資格の臨床心理士が評価した結果を組み合わせて、AIが「カウンセラー」として振る舞った場合の倫理的な課題を検証しました。
深刻な相談ほど、AIは対応できなかった
検証の結果、AIがカウンセラーとして振る舞った際に、複数の倫理的な課題が確認されました。
AIに日常の悩みを相談しても、命に関わるような深刻な訴えに対して、冷淡な返答をしたり、具体的な支援先を示さないまま会話を終えてしまったりする事例がありました。
また、本来なら人間の専門家に引き継ぐべき場面では、AIの対応範囲を超える相談だと気づけないまま会話を続ける事例も見られました。
特に、AIが使う「わかります」「お辛かったですね」という言葉は、一見すると共感しているように聞こえますが、専門家からは「見せかけの共感」と評価されました。
さらに、AIが会話の主導権を握って一方的に会話を進めたり、利用者の思い込みに疑問を呈することなく、そのまま同調してしまったりする傾向も確認されました。
また、同じような行動を語っても、話し手の性別によって、AIが異なる反応を示したり、特定の文化や信仰に基づく話題に対しては、必要以上に警戒したり、利用者それぞれの文化的・宗教的な背景を汲み取れず、画一的なアドバイスに終始してしまったりする事例も見られました。
ただし、検証で使われたのは、認知行動療法(CBT)に特化したカウンセリングサービスで動くAIであり、ChatGPTやGeminiのような一般向けのAIサービスそのものを検証したものではありません。
また、米国の倫理基準や制度を前提としているため、そのまま日本の状況に当てはめられるとは限りません。
AIがカウンセラーの役割を担うには、まだ数多くの倫理的課題が残る
今回の検証では、AIが専門的なカウンセラーとしての役割を担うには、まだ数多くの倫理的課題が残されていることが示されました。
AIが「カウンセラーらしく」振る舞えたとしても、その「共感」の言葉は、実体験に基づくものではなく、大量のデータから統計的に導き出された表現であることが示唆されています。
だからこそ、深刻な問題を相談するときほど、AIとの間に適切な距離感を持ち、専門的なカウンセラーとつながる選択肢を残しておくことが、大切になってくるでしょう。
▼ 関連知識 ▼
海外論文の検索方法｜一次情報へアクセスする4ステップ
SNSに真偽の定かでない健康情報が溢れる現代。海外の一次情報（論文）にアクセスし、その信頼性を見極める4ステップを解説します。流れてくる情報を待つのではなく、翻訳機能やデータベースの活用法を学び、自ら読み解くスキルを身につけましょう。
※本記事は、学術誌『Proceedings of the Eighth AAAI/ACM Conference on AI, Ethics, and Society (AIES 2025)』に掲載された海外の査読済み論文および一次研究データに基づき、科学的エビデンスを確認した上で執筆されています。
詳しい調査方法が気になる方は、こちらもご覧ください
実施期間：18ヶ月間(2023年5月18日〜2024年10月12日)
実施国：米国
対象：訓練を受けたカウンセラー7名(自己カウンセリング側) / 有資格の臨床心理士3名(評価側)
使用AIモデル：GPT-3.0 / GPT-3.5 / GPT-4 / Llama 3.1・3.2 / Claude 3 Sonnet / Claude 3 Haiku
使用プラットフォーム：認知行動療法(CBT)に特化したAIカウンセリングサービス
セッション数：自己カウンセリング110件 / シミュレーション27件(1回あたり60〜120分)
倫理的課題の分類：安全性・危機管理の欠如 / 見せかけの共感 / 治療的協働の欠如 / 不公正な差別 / 文脈適応の欠如
研究機関：Brown University(コンピュータサイエンス学部) / LSU Health Sciences Center(精神医学科) / Cognitive Behavioral Therapy Center of New Orleans
資金提供元：開示記載なし
利益相反：開示記載なし
