※この記事は 約8分 で読めます。
最近では、AIに日々の悩みを打ち明ける人が増えています。
もし、そのAIがカウンセラーのように振る舞ったとしたら、何が起こるのでしょうか。
研究チームがこの問いを検証する際に、心理の専門家が定める「倫理基準」と照らし合わせたところ、15の課題が浮かび上がりました。
この記事を読んでわかること
- 深刻な悩みを打ち明けた際に、AIの対応が不十分な場合があった
- AIが使う「共感の言葉」は、中身を伴わない演出だった可能性がある
- 利用者一人ひとりの状況に応じた対応は、AIが苦手とする場合があった
※本記事は、科学的知見や専門家の知見、研究データの紹介を目的としており、医学的アドバイスではありません。
診断や治療については、必ず専門医にご相談ください。
また、本記事は執筆時点の情報をもとに作成しています。最新の情報については、必ずご自身でご確認ください。
用語解説
大量の文章を学習し、人間のような文章を生成できるAIの仕組み。ChatGPTやGeminiなどの基盤技術にあたります。
思考のクセを見直すことで、気持ちや行動の変化を促す心理療法の一種。
AIへの指示文のこと。
掲載誌：Proceedings of the Eighth AAAI/ACM Conference on AI, Ethics, and Society (AIES 2025)
論文：「 How LLM Counselors Violate Ethical Standards in Mental Health Practice: A Practitioner-Informed Framework 」
背景：未検証だった「AIカウンセラー」と「倫理基準の遵守」
AIチャットボットは、もともと医療従事者に代わるものとして作られたわけではありませんでした。
それにもかかわらず、海外では有資格のカウンセラーを自称し、特定の心理療法を提供すると謳うAIキャラクターまで登場するなど、利用者がAIの役割を実際以上に大きく捉えてしまうような使われ方が広がっています。
日本でも、ChatGPTやGeminiのようなAIに、日常的な悩みを相談する人は珍しくありません。
一方で、AIへの指示文(プロンプト)を工夫すると、臨床的な効果が高まることは、これまでの研究で示されてきました。
しかし、そうした工夫によって、AIが実際の運用の中できちんと倫理原則に従うようになるのかどうかは、ほとんど分かっていませんでした。
そこで研究チームは、AIが実際にカウンセラーとして振る舞った際、こうした倫理原則にどこまで従えるのかを確かめることにしました。
調査方法：「AIカウンセラー」の倫理基準遵守の検証
研究チームは、以下の条件で、2つの異なるデータを組み合わせて結果を検証しました。
- 実施国：米国(研究チームの所属機関、および参照した倫理基準はいずれも米国のもの)
- 対象：訓練を受けたピアカウンセラー7名(自己カウンセリング側)、有資格の臨床心理士3名(評価側)
- AIモデル：LLM(大規模言語モデル)
- 使用AI：GPT-3.0 / GPT-3.5 / GPT-4 / Llama 3.1・3.2 / Claude 3 Sonnet / Claude 3 Haiku
- 期間：18か月間(2023年5月18日～2024年10月12日)
- セッション数：自己カウンセリング110件、シミュレーション27件(1回あたり60～120分)
- 分析方法：研究チームは設計や評価そのものには関与せず観察に徹し、当初41項目あった課題を最終的に15項目に整理した
結果：AIによるカウンセリングへの影響
分析の結果、AIカウンセラーの言動には15の倫理的な課題があることが分かり、それらは5つのテーマに整理されました。
安全性・危機管理の欠如：「危機的な場面での対応の乏しさ」
自殺念慮や自傷行為、強い孤独感など、命に関わりかねない深刻な訴えへの対応力が、AIカウンセラーには十分に備わっていなかった。
- そうした深刻な訴えに対し、冷淡・素っ気ない応答をした事例があった
- 深夜に孤独を訴えたユーザーに「専門家に相談を」と伝えるのみで、危機相談窓口(米国では988番)などの具体的な支援先を示さなかった事例があった
- 対応範囲を超える相談だと気づけないまま会話を続ける、あるいは気づいた上で危険な形で打ち切ってしまう事例があり、本来はより訓練を受けた人間への引き継ぎが必要だったと指摘されている
- AIの誤りを見抜ける知識がある利用者は対処しやすい一方、そうでない利用者ほど不適切な対応の影響を受けやすいことも分かった
見せかけの共感：「”共感”の言葉が生む誤解」
「わかります」「お辛かったですね」といった、人間らしい共感の言葉をAIが使うこと自体が、新たな論点として浮かび上がった。
- 感情の吐露に対し、「I hear you」「I understand」のような共感的な言い回しが繰り返し使われていた
- 専門家の一人はこの振る舞いを「見せかけの共感」と呼び、倫理違反にあたると評価している
- AIには他者の感情と関連づけるための「自己」が存在しないため、こうした共感表現は実態を伴わないという指摘があった
- AIが自己開示のような発言をすることで、利用者がAIを「本物の話し相手」であるかのように感じ、感情的な依存を深める可能性があるとも指摘されている
治療的協働の欠如：「一方的な対話と、行き過ぎた同意」
AIとの対話は、対等なやり取りというより、AI主導で進んだり、逆に利用者の考えを検討せず肯定し続けたりする傾向が見られた。
- AIが長い応答を続け、会話の主導権を握りすぎることで、セッションが治療というよりも講義のようになってしまう事例があった
- 利用者に十分な文脈を確認しないまま解決策を押し付け、自ら考え内省する余地を狭めてしまう事例が見られた
- 現実との接点をやや失っているように見えるユーザーが、「家族から自分の存在を否定されているかのような考え」を口にした際、AIはそれを疑うことなく受け止め、その考えに寄り添う応答を返し続けた事例があった
- 熟練したカウンセラーであれば、対話を通じて思い込みに異議を唱えるが、AIは好ましい応答を返そうとするあまり、歪んだ考えに迎合してしまう傾向があると分析されている
- 別の事例では、利用者自身の行動を、メンタルヘルスの不調の「原因」であるかのように示唆する応答が見られ、利用者に自分の現実認識を疑わせてしまうケースもあった
不公正な差別：「対応の一貫性を欠く事例」
同じような内容でも、話し手の属性によってAIの扱いが変わってしまう事例も確認された。
- 自身の行動を語る中で、加害者が「女性」である場合には規約違反としてフラグが立てられやすい一方、同様の内容で加害者が「男性」であった場合には問題視されなかったという指摘があった
- 家族との関係に悩むユーザーに対し、その文化的背景を考慮せず、欧米的な自立や個人の自律性を前提とした助言が示され、利用者の価値観が軽視されたと感じられる事例があった
- 少数派の信仰に基づく実践について話しただけで、規約に違反していないにもかかわらず、自動的な警告が表示された事例があった
文脈適応の欠如：「画一的なアドバイス」
AIが利用者一人ひとりの背景に合わせた対応を苦手としている実態も明らかになった。
- 異なる悩みに対しても、あらかじめ決められた治療の手順を繰り返し当てはめてしまう事例があった
- 利用者の文化的・宗教的な背景を汲み取れず、「クライアントが育った環境を完全に見落としていた」と評価された事例があった
考察：研究結果の解釈と限界点
この結果から言えること
- AIが個々の状況に合わせた対応を苦手とする背景には、AIの多くはインターネット上の文章から学習しており、そこには特定の文化圏の価値観が色濃く反映されやすいため、学習データの偏りがあると考えられている。
- 「わかります」「理解しています」といった共感の言葉も、AIには他者の感情と結びつくための「自己」がないことから、実態を伴わない演出にすぎないと位置づけられている
- 熟練したカウンセラーであれば利用者の思い込みに異議を唱えるところを、AIは望ましい返答をしようとするあまり、かえってその思い込みに迎合してしまう傾向があるとも分析されている
- こうした結果を踏まえ、研究チームは、心理療法は本来、人と人との関係性の中で成り立つものであり、単純な計算処理に置き換えられるものではないと結論づけている
この結果だけでは言えないこと
- 今回の検証は、追加学習(ファインチューニング)を行っていない「プロンプトの工夫のみで動かすAI」を対象としており、個別に再学習させたAIについては、同じ結果になるとは限らない
- データは、認知行動療法(CBT)を専門とする単一のプラットフォームと、単一の国に住む心理士3名の評価にもとづいており、結果がすべてのAIカウンセラーや心理療法全般に当てはまるとは限らない
- 本研究は米国の枠組みである「米国心理学会（APA）の倫理基準や、心理士の免許制度など」を前提としており、そのまま日本の状況に当てはめられるとは限らない
- 今回扱われた倫理原則の多くは国際的に共有されているものの、倫理基準は国や文化によって異なるため、一部の指摘がそのまま普遍的に当てはまるとは限らない
- 今回の調査は実践者側の視点にもとづくものであり、AIカウンセラーを実際に利用した患者自身の視点は含まれていない
総括：「AIカウンセラー」への新たな知見
AIとの対話は、時に心の支えのように感じられますが、今回の検証では、AIが専門的なカウンセラーとしての役割を担うには、まだ数多くの課題が残されていることが示されました。
たとえ根拠のある治療法に沿うよう設計されたAIであっても、「状況理解・対話の進め方・共感表現・公平性・安全対応」という5つの側面で、複数の倫理的な課題を抱えています。
この背景には、現行のAIチャットボットが、人間の心理士のような資格制度や専門職としての責任の枠組みを持っていないという点が挙げられます。
また、問題が起きた際に誰がどう責任を負うのかという仕組みも、まだ整っていません。
研究チームは、こうした状況を踏まえ、人間が行う心理療法に求められる質と同水準の厳格さを反映した「倫理的・教育的・法的な基準づくり」を、今後の課題として挙げています。
▼ 関連知識 ▼
海外論文の検索方法｜一次情報へアクセスする4ステップ
SNSに真偽の定かでない健康情報が溢れる現代。海外の一次情報（論文）にアクセスし、その信頼性を見極める4ステップを解説します。流れてくる情報を待つのではなく、翻訳機能やデータベースの活用法を学び、自ら読み解くスキルを身につけましょう。
※本記事は、学術誌『Proceedings of the Eighth AAAI/ACM Conference on AI, Ethics, and Society (AIES 2025)』に掲載された海外の査読済み論文および一次研究データに基づき、科学的エビデンスを確認した上で執筆されています。
論文情報
- 公開日：2025年10月15日
- 研究機関：Brown University(コンピュータサイエンス学部)、LSU Health Sciences Center(精神医学科)、Cognitive Behavioral Therapy Center of New Orleansによる共同研究(米国内複数機関の共同研究)
- 掲載誌：Proceedings of the Eighth AAAI/ACM Conference on AI, Ethics, and Society (AIES 2025)
- 論文：「 How LLM Counselors Violate Ethical Standards in Mental Health Practice: A Practitioner-Informed Framework 」
資金提供
本論文には、資金提供元や利益相反に関する開示記載はありません。
