「利用者の80%が満足」と聞いたとき、まず知りたいのは、何人に聞いたかだけではありません。誰に聞き、誰が答え、どの範囲を説明しようとしているかで、同じ80%の意味は変わります。
この記事では、架空のアプリ調査を使って20の用語をつなげます。最初に想定するのは、ある月に利用した1,000人の満足度を知りたいという問いです。回答は個人ごとに1件、対象期間は同じとします。
目次
調査用語8つの早見表
| 用語 | 確認すること | 見落としの例 |
|---|---|---|
| 母集団 | 誰のことを知りたい? | 現在の利用者の結果で、退会者まで説明する |
| 標本 | 実際に調べたのは誰? | 回答者と依頼した人を混同する |
| 無作為抽出 | 対象者をどう選んだ? | 目についた人へ聞くことをランダムと呼ぶ |
| 標本誤差 | 一部を選ぶ偶然でどれほど変わる? | 全ての誤りを人数で解消できると思う |
| 選択バイアス | 含まれやすさが結果と関係する? | よく使う人だけから全利用者を推測する |
| 生存者バイアス | 途中で見えなくなった例は? | 使い続けた人だけを見る |
| 回答率 | 依頼に対して何人が回答? | 回答率だけで正確さを決める |
| 交絡 | 別の要因が比較を混ぜていない? | 利用回数の差をそのまま効果と読む |
1.母集団:知りたい対象の全体
今回の母集団は「ある月に利用した1,000人」です。「全ての登録者」や「これから使う人」ではありません。利用者と呼ぶ条件、期間、地域などを決めることで、数字が何を説明するのかが明確になります。
同じ100人の回答でも、その100人の感想だけを紹介するのか、1,000人全体へ広げるのかでは必要な説明が変わります。「みんな」という言葉を、対象者の具体的な条件へ置き換えてみましょう。母集団が曖昧なままだと、どんな抽出方法でも答える問いが定まりません。
2.標本:全体から調べるために選んだ一部
1,000人全員へ聞くのではなく200人を選ぶなら、その200人が抽出された標本です。しかし200人全員が回答するとは限りません。100人しか答えなければ、集計に使える回答者の集合は、抽出時点よりさらに絞られています。
報告では「対象1,000人、依頼200人、回答100人」のように段階を分けると分かりやすくなります。回答数100という情報だけから、200人を選んだ方法や、回答しなかった100人の特徴までは分かりません。
3.無作為抽出:偶然を使って対象者を選ぶ
1,000人の対象者名簿から、乱数を使って200人を重複なしに選ぶ、といった方法です。単純無作為抽出では、一定人数の取り出し方がどれも同じ確率になるように設計します。調査者の好みで「代表っぽい人」を選ぶこととは違います。
無作為に選んでも、一回の標本が必ず全体そっくりになるわけではありません。また、名簿に入っていない人は選ばれず、選ばれた人が答えなければ別の偏りも起こり得ます。ランダムという言葉だけで、名簿や回答段階の問題まで解消したことにはなりません。
4.標本誤差:どの一部が選ばれたかによるずれ
同じ方法で200人を選び直すと、人の組み合わせが変わり、満足の割合も動きます。こうした標本抽出に伴う偶然のずれが標本誤差です。十分な前提の下では、どの程度変動しそうかを推定できます。
一般に標本を大きくすると、この偶然の変動は小さくできます。一方、質問が誤解される、回答しない人が偏る、入力を間違えるといった問題は別です。全員に聞く全数調査でも、測定や未回答などの非標本誤差は残り得ます。人数と調査方法の両方を見ます。
5.選択バイアス:集め方が結果を偏らせる
今回、アプリを毎日開く人だけへ回答画面を表示したらどうでしょう。あまり使わなくなった人の感想は入りにくくなります。満足度と利用頻度が関係しているなら、その回答から全利用者の満足度を推測するとずれる可能性があります。
大量の回答があっても、集め方の偏りが自動的に消えるわけではありません。ただし、調べたい対象が「毎日使う人」なら、同じデータがその問いに役立つ場合はあります。データが無価値かどうかではなく、答えられる範囲を合わせることが大切です。
6.生存者バイアス:残ったものだけを見る
半年使い続けた人の声だけを見て、アプリが誰にでも使いやすいと判断すると、途中でやめた人が見えません。「生存」は文字通り生き残ることに限らず、継続した人、成功して紹介された作品などにも使われます。
続いた人の使い方は、継続を理解する有益な資料です。ただし、続かなかった人との違いを調べず、成功の条件や成功率まで説明するのは難しいでしょう。選択バイアスと関係する、見えなくなる過程に注目した言葉です。
7.回答率:依頼した対象のうち回答した割合
全員が対象条件を満たす200人へ依頼し、100人が完全に回答した単純な例では、回答率は100÷200=50%です。実際には対象外の人、不明な人、途中までの回答などの扱いで定義が変わるため、分子・分母と算出方法を確認します。
回答率が高いほど必ず偏りが小さい、とも限りません。重要なのは、回答した人としなかった人に、知りたい項目に関係する違いがあるかです。低い回答率は確認のきっかけになりますが、それだけで正確さを決める採点表にはできません。
8.交絡:別の要因の影響が混ざる
毎日使う人ほどテスト得点が高くても、アプリを使った効果とは限りません。もともとの関心や学習経験が、利用頻度と得点の両方に関わるかもしれません。このような別の要因によって、調べたい関係に別の影響が混ざることが交絡です。
利用者を似た条件で比べる、適切な要因を調整する、可能なら無作為に条件へ割り付けるなどが検討されます。ただし測った変数を全部調整すればよいわけではなく、原因と結果の順序を考える必要があります。
アンケートを読むときの6行メモ
- 知りたい対象と期間は何か。
- 対象者をどんな名簿・場面から選んだか。
- 何人へ依頼し、何人が答えたか。
- 質問の文面と、集計から除いた条件は何か。
- 答えなかった人・途中で離れた人はどう扱ったか。
- 割合や関連を、全体の性質や原因へ広げすぎていないか。
確認問題:10万人が答えたSNS投票なら、全国の意見が分かる?
回答が多いことだけでは言えません。投稿を見られる人、自分から答えた人の集まりだからです。まずは「その投票に参加した人の結果」として読み、全国へ広げるなら対象の範囲や集め方を追加で検討します。
参考資料
- 総務省統計局:全数調査・標本調査
- 総務省統計局 Data StaRt:標本誤差の計算
- AAPOR:Best Practices for Survey Research
- AAPOR:Standard Definitions
- OpenStax:Experimental Design and Ethics
本文の人数・割合・場面は、説明用に作成した架空の例です。
母集団
抽出・募集の条件
未回答・除外を確認