数学推論データセット

複数ステップの計算や厳密な解答形式を要する数理タスクでは、途中式の省略・論理の飛躍・形式違反が依然として残ります。本データセットは、最終答の正誤だけでなく思考過程（Chain-of-Thought）の各ステップに正誤ラベルを付け、「どこで間違えたか」を学習信号に変えるプロセス監督（PRM）を可能にします。PRM（ステップ正誤分類）と CLM（次トークン予測）を LoRA でマルチタスク学習させる形式に最適化しています。

主要点

過程を監督できる構造：問題・正解・生成解答に加え、各ステップの本文と正誤ラベル（correct / incorrect / unclear）を収録。最終答が合っても“途中で崩れた”解答を検出・学習できます。
途中破綻の典型例まで収録：前半は正しく最後で崩れる（partial_correct）といった実際の誤答パターンを含み、単なる正解データより誤り局所化に強い学習が可能です。

データセット概要

自動生成と人手検証を組み合わせた JSONL 形式の数理推論データです。各レコードは problem（問題）／expected_answer（正解）／generated_answer（モデル生成解答）／answer_match（最終正誤）／step_evaluations（各ステップの step_text と verdict）／metadata（step_evaluation_category など）で構成されます。verdict は correct / incorrect / unclear の3値。思考過程は最低2ステップ、2〜8ステップで刻んでいます。サンプルデータを Hugging Face（APTOinc/llm-math-reasoning-dataset、Apache-2.0、Parquet）で公開しています。

ジャンル構成

思考プロセスが特定分野に偏らないよう、問題を ①解析 ②代数 ③幾何学 ④確率・統計・離散数学 の4ジャンルに分けて収録しています。

途中破綻の可視化（データ例）

本データの価値は step_evaluations.verdict に集約されます。例えばある幾何問題では、前半の座標設定〜面積導出は correct が続く一方、「面積が整数になる」数論的条件だけで範囲を決めてしまい、幾何的制約を見落とした後半3ステップが incorrect。結果として誤答（差を300と結論）になります。前半は合っているため partial_correct に分類されます。こうした「途中で崩れる」例を学習に使うことで、誤りの局所化に強いモデルを育てられます。

品質管理（自動採点＋人手検証）

最終回答は Math-Verify（SymPyベースの数式同値判定） で採点し、1/√3 と √3/3 のような表記違いを同一視して answer_match を安定化します。過程テキストは評価ガイドに基づき3値ラベルを付与し、判断に必要な情報が足りないケースは unclear として明示的に保留。人による検算も行い、推論過程の品質を担保しています。

学習・評価と成果

学習は PRM（step_text→verdict の3クラス分類）＋ CLM（次トークン予測） を LoRA でマルチタスク実施（ベースモデルは主に凍結）。評価は AIME 2024・2025（各30問）で、出力のばらつきを考慮し各問4回生成の平均を比較します。openai/gpt-oss-20b に適用したところ、AIME 2024：26.7%→36.7%（+10.0pt）／ AIME 2025：33.3%→43.3%（+10.0pt） と改善しました。ライセンスは Apache-2.0 です。