採点者間のぶれ(採点の目合わせ)
読み: さいてんしやかんのふれ別名: Inter-rater Reliability、Rater Calibration、採点者間信頼性、採点の目合わせ
記述式の答案や課題を複数の人で採点するとき、採点者によって点数がそろわない問題です。ぶれが生まれる原因と、目合わせの進め方・確かめ方を解説します。
採点者間のぶれは、同じ答案を別の人が採点したときに、点数がそろわないことです。 記述式の答案やレポートを複数の人で分けて手動採点するとき、必ず向き合う問題です。 ぶれを小さくするために、採点の前に基準を確かめ合う作業を目合わせと呼びます。
なぜ問題になるのか
どの採点者に当たったかで合否が変わると、試験の結果を信じてもらえません。 とくに昇格試験や資格の試験のように、 結果が処遇や資格につながる試験では、説明を求められたときに困ります。 採点のぶれは、試験の信頼性を下げる大きな要因の一つです。
ぶれが生まれる原因
| 原因 | 起きること |
|---|---|
| 基準があいまい | 「よく書けている」の受け止め方が人によって違う |
| 厳しさの癖 | いつも辛めに付ける人、甘めに付ける人がいる |
| 途中で基準が動く | 最初の答案と最後の答案で、同じ人でも付け方が変わる |
| 先入観 | 誰の答案かが分かると、日ごろの印象に引きずられる |
| 疲れ | 長時間続けると、見落としや付け方の雑さが増える |
目合わせの進め方
- 採点基準を先に作る — 模範解答、配点の内訳、部分点を与える条件を書き出します。 観点と段階を表にしたルーブリックにすると、判断の言葉がそろいます
- 見本の答案を決める — 実際の答案から、よい例・ふつうの例・足りない例を数件選びます
- 全員で同じ答案を採点する — 見本を各自が採点し、点数を並べます
- 割れたところを話し合う — 点が割れた答案について理由を出し合い、基準の文を直します
- 本番の採点に入る — 迷う答案が出たら、決めた人に相談するか、メモを残して後でまとめて決めます
確かめ方と、採点中の工夫
同じ答案を二人で採点して比べる 一部の答案だけでも、二人が別々に採点して点の差を見ると、ぶれの大きさが分かります。 差が大きい設問は、基準の書き方を見直します。
設問ごとに採点する 受験者ごとに全部の設問を見るより、同じ設問をまとめて採点するほうが、基準が動きにくくなります。
名前を伏せる 誰の答案かを伏せて採点すると、先入観が入りにくくなります。
採点者ごとの平均点を見る 採点者ごとの平均点を比べると、厳しさの癖に気づけます。 大きく偏っていれば、もう一度目合わせをします。
パレットCBTでの扱い
パレットCBTでは、自動で採点できない記述式の解答が採点キューに集まります。
- 採点画面では、模範解答と採点基準を見ながら点数を入れられます
- 受験者の名前を伏せた状態で採点できます
- コメントを添えて結果を返せ、採点の進み具合も表示されます
パレットLMSの課題では、ルーブリックを使って観点ごとに段階を選んで採点できます。
