医療データセット

医療分野のLLMには、正確性はもちろん、不確実な状況での対応・緊急時の受診勧奨・情報の過不足のなさといった、単なる知識量では測れない品質が求められます。本データセットは、OpenAI が公開する医療評価ベンチマーク HealthBench の評価軸（5つの行動次元・7つの医療テーマ）に沿ったマルチターン医療対話で構成し、SFT と DPO の2段階で回答品質を引き上げるために設計しました。20BのオープンモデルでGPT-4o級のスコアに到達しています。

主要点

HealthBenchの評価軸に整合：accuracy（正確性）/ communication_quality（伝え方）/ completeness（網羅性）/ instruction_following（指示追従）/ context_awareness（文脈把握）の5軸と、緊急受診・不確実性下の対応など7テーマを網羅。
SFT→DPOで危険な回答を抑制：DPO では正確性（accuracy）違反を最優先に、望ましい回答／望ましくない回答のペアで選好学習し、医学的に危険な推奨を排除します。

データセット概要

医療シナリオのマルチターン対話（1件あたり概ね5〜8ターン）を中心に構成します。用途に応じて SFT用（instruction–input–output 形式）／DPO用（chosen–rejected 形式）／チャット形式SFT を用意。元データはロール付きの会話（conversation）に、テーマ（theme）・言語（language）・想定利用者（persona）・医療リソース環境（resource）のメタ情報を付与しています。評価は HealthBench 公式の 48,562件のルーブリックに基づく多軸採点で行います。

7つの医療テーマ

HealthBench に対応し、以下7テーマを網羅します：緊急時の受診勧奨（emergency_referrals）/ 不確実性下での対応（responding_under_uncertainty）/ グローバルヘルス（global_health）/ 医療データ処理タスク（health_data_tasks）/ 回答の深さ（response_depth）/ 文脈の確認（context_seeking）/ 専門性に応じた説明（expertise_tailoring）。緊急対応・不確実性への対処が全体の約4割を占め、実際に判断を誤ると危険なシナリオに重点を置いています。

5つの評価軸とDPO設計

HealthBench は回答を accuracy / communication_quality / completeness / instruction_following / context_awareness の5軸で採点します。DPO データはこの軸に沿って「どの軸に違反した回答か」で構成し、正確性（accuracy）違反を最優先（DPO全体の約4割）に学習させることで、医学的に誤った・危険な回答を選好的に排除します。

学習方法（SFT→DPO）

第1段階の SFT で医療ドメイン知識と適切な回答パターンを習得し、第2段階の DPO で回答の質（特に正確性）を引き上げる2段構成です。学習は LoRA を用い、SFT→DPO の順で段階的に適用します。各段階で HealthBench 評価を挟み、テーマ別・軸別に弱点を確認しながら調整できる設計です。

評価と成果

openai/gpt-oss-20b に本データセットを適用し、HealthBench 公式ルーブリックで評価（スコアリングに GPT-5 を使用）しました。ベース 16.00% → SFT 31.86%（+15.86）→ SFT+DPO 32.17%（+16.17） と改善し、20Bのオープンモデルながら GPT-4o（32%）と同等水準に到達しています。テーマ別では緊急受診勧奨が高スコア、グローバルヘルスなどが今後の強化余地として把握できています。