Узнать, не спрашивая всех: как в XX веке победил выборочный метод?

Повар, чтобы узнать, каков плов в казане, не съедает его целиком, а пробует одну ложку. Но есть одно условие: сначала нужно хорошо перемешать. Иначе, попробовав только рис сверху, вы придёте к выводу «мяса нет». Главным открытием статистики XX века стало научное доказательство этого простого правила.

Что Нейман доказал о выборке?

В июне 1934 года польский статистик Ежи Нейман выступил в Королевском статистическом обществе с докладом «О двух различных аспектах репрезентативного метода». Статья была опубликована в журнале общества. В ней сравнивались два подхода: - Целенаправленный отбор: исследователь сам выбирает группы, «похожие на среднее» - Случайная, расслоенная (стратифицированная) выборка: население делится на группы, и из каждой группы делается случайный отбор

Нейман показал преимущество случайной расслоенной выборки и предложил также способ оценить, насколько надёжен результат. Согласно Математической энциклопедии, именно в этой статье в ограниченной форме появилась идея, позднее названная доверительным интервалом.

Расслоенная выборка (составлено автором, условные цифры). Торговая сеть «Навруз» хочет опросить 500 из 10 000 клиентов.

Внутри каждой группы клиенты отбираются случайно. Если бы всех 500 человек опросили только в магазине в центре, сельских клиентов вообще не услышали бы.

Почему ошибся опрос 1936 года?

Перед президентскими выборами в США 1936 года журнал «Literary Digest» провёл очень большой почтовый опрос и предсказал, что победит Альф Лэндон. А в итоге с большим отрывом победил Франклин Рузвельт.

Обычно называют две причины (так и в материале Университета Эмори): - Имена брались в основном из телефонных справочников и списков автовладельцев. В 1936 году телефон и машина чаще были в состоятельных семьях, малообеспеченные избиратели были представлены слабо - Вернулась лишь часть разосланных бюллетеней, а ответившие не были похожи на не ответивших

Более поздние исследователи (в том числе Д. Лусинчи, 2012) обсуждают, что первая причина не была единственной, как считалось ранее, и что неответы тоже сыграли большую роль. В обоих случаях урок один: результат зависит от того, кого спросили и кто ответил.

На этих же выборах Джордж Гэллап с гораздо меньшей, но спланированной выборкой правильно предсказал победу Рузвельта. Журнал позже закрылся, а имя Гэллапа прославилось в сфере опросов.

Как изменились счётные машины?

Как пишет историческая страница Бюро переписи населения США, бюро пользовалось обновлёнными версиями машины Холлерита вплоть до переписи 1940 года. В 1951 году бюро подписало контракт на электронный компьютер UNIVAC I, и он применялся для обработки части переписи населения 1950 года и полной обработки экономической переписи 1954 года. Так теория выборки и электронный счёт набрали силу в одну эпоху: стало возможным опрашивать меньше людей, но рассчитывать результат быстрее и точнее.

Тогда и сейчас

Урок актуален и сегодня: правильно отобранные ответы тысячи человек ценнее миллиона неправильно собранных ответов.