Кэти О`Нил: Убийственные большие данные. Как математика превратилась в оружие массового поражения

Эта книга рассказывает о мрачных перспективах применения математических моделей на основании Больших данных и преисполнена негатива. На примере Соединенных Штатов, где компьютеризация приобрела, пожалуй, самые большие масштабы в мире, автор показывает, что математические алгоритмы с каждым днем все сильнее подчиняют жизнь общества, и в дальнейшем будут проникать дальше и глубже, буквально повсюду, во все сферы жизни. В отличие от другой книги этой же серии, о которой я писал ранее (Алекс Пентленд. Социальная физика. Как распространяются хорошие идеи: уроки новой науки), где преобладает оптимистическая оценка перспектив применения математики Больших данных, в этой книге явно преобладает пессимистический взгляд на перспективы будущего применения математических моделей. Это предупреждение о том, что модели всегда несовершенны, так как они упрощают и схематизируют сложные жизненные взаимосвязи, и их применение зачастую ошибочно и необратимо.

По мнению автора книги Кэти О`Нил, профессора математики и финансового аналитика, эти алгоритмы уже превратились в опасное оружие в руках государства, корпораций и политиков. Вся книга посвящена убийственной опасности ОМП — именно так автор обозначает «оружие математического поражения». Эти три буквы ОМП встречаются буквально на каждой странице книги, зачастую многократно. Причем это оружие нацелено в первую очередь на самые бедные и незащищенные слои населения. Особенно страдают бомжи, матери-одиночки, жители неблагоприятных районов с высокой преступностью, бывших заключенных, безработных, этнических меньшинств и т.п. Именно против них чаще всего в США используются всевозможные математические модели, причем Большие данные об индивиде нередко переходят из одной программы в другую, загоняя судьбу отдельных людей в полную безысходность. Богатые составляют небольшую часть общества, поэтому ОМП на них обычно не распространяется, хотя и они становятся объектом дорогостоящей рекламы авиарейсов или отдыха на изысканных курортах. При этом скрытые принципы работы математических моделей невозможно критиковать и пересматривать, они охраняются как величайшая коммерческая тайна, а их вердикты, подчас очевидно ошибочные и явно вредные, считаются окончательными и обжалованию не подлежат.

Очень интересны главы книги, где рассматриваются цифровые гиганты Amazon, Google, Facebook, Netflix и другие современные компании в срытном манипулировании поведением своих пользователей. Рассматриваются также выборные манипуляции в США, но хотя в выходных данных указываются годы 2016, 2017 как дата копирайта оригинальной книги Кэти О`Нил, на самом деле книга существенно устарела: фактически в ней описываются исследования президентской предвыборной компании 2012 года, тогда как всем известно, что по-настоящему новые цифровые технологии Больших данных в своих выборах успешно использовал Дональд Трамп в 2016 году, однако об этих выборах в книге ничего не говорится.

Цитата из книги «Убийственные большие данные»:

Бедные люди с большой вероятностью будут иметь плохую кредитную историю и жить в опасном районе, по соседству с другими бедными людьми. Как только темная вселенная ОМП переварит эту информацию, она забросает их хищнической рекламой микрокредитов или коммерческих колледжей. ОМП пришлет полицию, чтобы арестовать этих людей, а если им вынесут приговор, то оно же позаботится о том, чтобы они получили как можно более длительный срок. Эти данные, в свою очередь, будут использованы другим видом ОМП, который определит этих людей как потенциально рискованных клиентов и в результате будет препятствовать их трудоустройству, одновременно вздувая для них процент по ипотеке и автомобильным кредитам, увеличивая стьоимость самых разных страховок. Это еще сильнее ухудшит их кредитную историю, и возникнет настоящий порочный круг моделирования. Быть бедным в мире ОМП становится все опаснее и обходится все дороже.

Но то же самое оружие математического поражения, которое прицельно бьет по беднякам, помещает представителей более высоких слоев общества в их собственные отсеки на рынке. ОМП отправляет их в отпуск на Арубу, вставляет в очередь на поступление в Уортоновскую школу бизнеса. Многим из этих людей мир в результате покажется более простым и разумно устроенным. Математические модели не дадут им прозевать скидки на прошутто и кьянти, порекомендуют отличный фильм на Amazon Prime и приведут их, одного за другим, в кафе в районе, который раньше казался подозрительным. Ненавязчивая и персонифицированная сущность этой адресации не даст людям, которые занимают высокое место в обществе, увидеть, как эти же самые модели уничтожают жизни других людей — зачастую буквально в нескольких кварталах от их местонахождения.

Кэти О`Нил некоторое время работала аналитиком в одном из крупных хедж-фондов до начала крушения во время глобального кризиса 2008 года. Она стала вести блог о предвзятости моделей, но не рассказывает подробно, как именно в 2011 году она имела какое-то отношение к протестному движению в Нижнем Манхеттене «Захвати Уолл-стрит», лишь упрекая участников, что они не знают о том, как работает система, так как не читают ее блог. Ни одна статистическая система не может быть идеальной, хотя иногда такие системы вроде бы, как может показаться, совершают полезные деяния. Вот что говорит Кэти О`Нил:

Большие данные имеют много горячих поклонников, но я к ним не отношусь. Эта книга острейшим образом сосредоточена на другом направлении: на том ущербе, который приносит оружие математического поражения, и на несправедливостях, которые оно порождает. Мы исследуем ущерб, который был нанесен людям в критические моменты их жизни: во время поступления в колледж, при попытках взять кредит, при вынесении им приговора в суде, в поисках работы. Все эти жизненно важные рубежи всё в большей степени контролируются тайными моделями, которые произвольно наказывают людей.

Увы, оперативно перемещаться в пространстве этой книги трудно, так как хитрожопые российские издатели выбрасывают именные и предметные указатели из книг non-fiction. В англоязычных и во многих других странах издание книги non-fiction без указателя совершенно невозможно. Я посмотрел эту книгу на Amazon.com и обнаружил в ней индекс на семи страницах в две колонки. Но мы с вами живем в диковатой России, поэтому нас обокрасть не грех. Мы привычные!

Кэти О`Нил: Убийственные большие данные. Как математика превратилась в оружие массового поражения (Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy). / Переводчик: Виктория Дегтярева. — М.: АСТ, 2018. — 320 с. — Твердый переплет. — Тираж 2000 экз. — (Серия: Цифровая экономика и цифровое будущее).