AIがメンタルヘルスの相談に応じる場面では、「危険な返答をしない」だけでは十分ではありません。必要なのは、ユーザーの状態に応じて、どこまで寄り添い、どこで現実の支援につなぐかを測る物差しです。
OpenAIはIntroducing MentalHealthBenchで、メンタルヘルス領域の会話に対するAI応答を評価する新しいベンチマークを公開しました。80人以上の有資格メンタルヘルス専門家と共同で設計され、日常的な悩みから高リスクな状況、緊急支援が必要なケースまでを扱います。評価軸には、安全性、文脈確認、ユーザーの主体性の尊重、適切な行動提案などが含まれます。
この発表のポイントは、メンタルヘルス対応を「拒否すべきか、答えるべきか」という二択から引き上げたことにあります。
従来の安全評価は、危機的な場面で不適切な助言をしないことに重点が置かれがちでした。それは当然重要です。ただ、実際の相談はもっと曖昧です。友人関係、ストレス、家族の問題、不安、境界線の引き方。そこでは、断定しすぎても危うく、一般論だけでも役に立ちません。
MentalHealthBenchが示しているのは、AIの品質評価が「禁止リストの遵守」から「状況に応じた支援行動の設計」へ進みつつあるという変化です。専門家が会話ごとにルーブリックを作り、良い行動には加点し、危うい行動には減点する。これは、AIを導入する組織にとっても重要な考え方です。
社内向けAIや顧客対応AIでも、リスクの高い領域ほど、単にNGワードや禁止回答を増やすだけでは限界があります。必要なのは、どの場面で追加情報を聞くべきか、どこまで助言してよいか、いつ人間や外部支援へつなぐべきかを、評価可能な形に落とすことです。
もちろん、ベンチマークは現実の会話を完全には代替しません。文化差、個人差、緊急度の見極めには限界があります。それでも、専門家の判断を評価基準として共有できる形にした意義は大きいです。
AI活用の次の論点は、モデルが「答えられるか」ではなく、組織が「何を良い応答とみなすか」を定義できるかに移っています。MentalHealthBenchは、その定義を高リスク領域でどう始めるかを示す一例です。
関連記事
- Ringg’s AI agents resolve up to 65% of customer calls with OpenAI
- How invideo improves color grading 3x with GPT‑6 Astra
- Harvey turns legal context into stronger drafts with GPT-6 Astra
参考文献
コメント