«Надзорный капитализм или демократия?»

Технологические гиганты годами накапливали персональные данные пользователей и превратили поведение человека в товар. Контроль над цифровыми экосистемами и беспрецедентная концентрация знания наделила их властью, которая теперь позволяет диктовать условия правительствам западных стран. В книге «Надзорный капитализм или демократия?» («Издательство Института Гайдара»), переведенной на русский язык Артемом Смирновым, экономист и социальный психолог Шошана Зубофф рассказывает, как созданный корпорациями политико-экономический порядок угрожает демократиям. Предлагаем вам ознакомиться с фрагментом, посвященным доминированию частных компаний в области искусственного интеллекта и производства знаний.

Экономические операции

После того как прочно утвердились основы первой стадии — масштабное извлечение и датафикация, — нарастающий импульс институционального развития вывел новые угрозы на следующий рубеж. Вторая стадия создает предельную концентрацию производства знаний и возможностей обучения, которые основываются на ранее накопленной концентрации данных, генерируемых человеком. Это создает конкурентное преимущество, которое начинает самовоспроизводиться и, в отсутствие системного противодействия со стороны демократического порядка, становится неуязвимым. 

Ценность генерируемых человеком данных, полученных в результате масштабного извлечения на первой стадии, невозможно реализовать без вычислительных систем производства знаний, известных как машинное обучение и искусственный интеллект. Эти системы, в свою очередь, не могут работать без постоянно растущего объема генерируемых человеком данных. Следующий шаг в борьбе за доминирование над политикой знания разворачивается на второй стадии, когда данные трансформируются в информацию и знания с помощью этих проприетарных вычислительных «средств производства», а также права определять, что именно производится и кто это потребляет. 

В 2012 году исследователь информации Мартин Гильберт заметил, что объем информации, хранящейся в цифровом виде, превысил глобальную способность учиться на ее основе. «Единственный способ осмыслить все эти данные, который у нас остался, — убеждал он, — это бороться с огнем при помощи огня», используя «компьютеры с искусственным интеллектом» для «просеивания огромных массивов информации... Facebook, Amazon и Google обещали... создавать ценность из огромных массивов данных посредством интеллектуального вычислительного анализа» (Hilbert, 2012, sec. 2, para. 1). Прогноз Гильберта сбылся, но с оговоркой: надзорные капиталисты действительно создают ценность, но только для себя. 

Всестороннее исследование глобальной рыночной структуры искусственного интеллекта, проведенное Джакобидесом, Брузони и Канделоном, подчеркивает эту крайнюю рыночную асимметрию, отмечая «поразительную и растущую концентрацию в сфере ИИ» в руках нескольких крупных технологических компаний и возникающую в результате «экономии от знания», когда «масштаб порождает знания через накопление данных и усиливает конкурентное преимущество... Мы обнаружили, что ИИ внедряется и приносит пользу малому проценту компаний, которые способны как переводить данные в цифровой формат, так и получать доступ к качественным данным» (Jacobides et al., 2021, p. 418). 

Эти исключительные преимущества в знаниях отражают зависимость институционального развития от пройденного пути и всего, что было сделано во имя данных: вторжение, кража, секретность, присвоение прав, разрушение конфиденциальности и эпистемический хаос. Джакобидес, Брузони и Канделон отмечают, что накопительные преимущества агрегирования данных (стадия 1) создают существенные барьеры для входа в сферу производства и потребления ИИ (стадия 2). Эта динамика становится еще заметнее в случае с вычислительными знаниями для предсказания поведения, так как большие массивы данных повышают точность предсказаний. Таким образом, конкурентное преимущество связано с масштабным извлечением данных гигантами, которое обеспечивает «исключительно богатый набор информации об их клиентах» (Jacobides et al., 2021, p. 421, 418; см. также Agbehadji et al., 2020; Aiello et al., 2020; Gao et al., 2019; Hinds and Joinson, 2019; Iqbal et al., 2022; Ma and Sun, 2020). 

Огромный объем и многообразие данных также способствуют горизонтальному распространению предиктивных вычислений, поскольку надзорный капитализм переформатирует отрасли далеко за пределами Кремниевой долины. Примером может служить здравоохранение. Каждый из надзорных гигантов следует глобальным стратегиям по масштабному извлечению медицинских данных, которые ценны своей прибыльной предиктивной способностью. Подходы различаются, но все они начинаются с данных, отобранных из уже существующих систем. Google объявил о намерении «использовать миллиард связанных со здоровьем вопросов, которые люди задают ежедневно», — это 7 процентов от всех поисковых запросов, отправляемых пользователями ежедневно, — в качестве основы для своих усилий по «улучшению здравоохранения» (M. Murphy, 2019, paras. 1–2). 

Выступая перед ИТ-специалистами в области здравоохранения, Эрик Шмидт из Alphabet/Google рассказал, как его корпорация намерена сделать здравоохранение задачей вычислительного прогнозирования, которая под силу только такой компании, как Google (Schmidt, 2018, 7:46–7:52, 10:17–10:59). Шмидт заявляет:

У Amazon есть доступ к бесконечному потоку запросов, покупок и продаж, связанных со здоровьем, от 310 миллионов покупателей и 5 миллионов продавцов. Покупка One Medical открывает доступ к 8000 компаний, которые включают One Medical в свой пакет медицинских льгот, что позволяет связывать медицинские данные с приложениями и рекламой товаров и услуг для здоровья (Amazon, 2022; Kaziukėnas, 2021; Pifer, 2022; Quaker, 2022). Операционный директор Apple Джефф Уильямс, руководивший инженерной разработкой Apple Watch, отмечает: «У нас десятки миллионов часов на запястьях людей и сотни миллионов телефонов в карманах» (Fitzpatrick, 2018). Facebook и Microsoft разными путями идут к схожей цели (Feathers et al., 2022; Guthrie and Benjamin, 2022; McGuinness, 2022). 

В 2010 году бывший директор АНБ Майк Макконнелл публично признал, что «более 90 процентов физической инфраструктуры веба» принадлежало частным интернет-компаниям (McConnell, 2010). С тех пор надзорный капитал удвоил инвестиции в создание обширных мощностей и инфраструктуры, необходимых для передачи, хранения и обработки масштабно извлекаемых данных. Гиганты доминируют в исследованиях и применении передового машинного интеллекта и современных микрочипов (Lohr, 2019; Rosenbush, 2022). Они строят крупнейшие компьютерные сети, центры обработки данных, серверные кластеры и подводные кабели для передачи данных (J.M.Lima, 2017; C. Metz, 2017a). Доминирование в инфраструктуре началось в Северной Америке и Европе, а теперь дело неумолимо идет к поглощению Глобального Юга (Ahmad and Salvadori, 2020; Birhane, 2020; Stowell and Ramos, 2019). Google, Amazon и Microsoft стали «гиперскейлерами», создав облачные вычислительные платформы сначала для проведения собственного анализа, а затем как важное направление бизнеса. Облачные платформы расширяют экосистемы искусственного интеллекта корпораций и усиливают контроль над разработкой ИИ благодаря тем, кто пользуется и участвует в разработке их облачных решений (Jacobides et al., 2021, p. 415, 417, 418). В 2022 году Facebook, уже лидировавший в обработке данных в реальном времени и машинном обучении (Chen et al., 2016; Hazelwood et al., 2018), завершил работу над тем, что компания называет самым мощным в мире суперкомпьютером для искусственного интеллекта (Bhattacharyya, 2022).

Во втором десятилетии надзорные капиталисты еще больше использовали свой капитал и институционализировали свое преимущество в знаниях через другой самовоспроизводящийся механизм: поглощения. Они приобретают и накапливают дефицитные человеческие, технологические и научные ресурсы, необходимые для производства знаний (Peterson, 2020). Эта стратегия воспроизводства запустила гонку вооружений за примерно 10 тысяч специалистов на планете, умеющих извлекать знания из обширных массивов данных надзорного капитала (C. Metz, 2017b). Гиганты приобрели самые перспективные компании в области искусственного интеллекта (Richter, 2020), значительно углубив и институционализировав свои возможности доминирования в знаниях (Bass and Brustein, 2020). Стэнфордский индекс искусственного интеллекта 2022 года сообщает, что современные достижения в области ИИ зависят от «дополнительных обучающих данных» — тенденция, которая «благоприятствует частным компаниям, имеющим доступ к обширным наборам данных». В 2021 году частные инвестиции в ИИ достигли 93,5 миллиарда долларов США, что более чем вдвое превышает уровень частных инвестиций 2020 года. Концентрация усилилась, поскольку больше денег приходилось на меньшее количество компаний: в 2021 году финансирование получили 746 новых компаний в сфере ИИ по сравнению с 1051 в 2019 году (Zhang et al., 2022).

Гиганты также установили контроль над рынками труда в критически важных областях производства знаний, включая науку о данных и исследования поведения животных (McBride and Vance, 2019; Murgia, 2019a), переманивая ведущих научных специалистов и вытесняя потенциальных конкурентов, а также стартапы, университеты, государственные органы и менее богатые страны. До 2004 года, года надзорного дивиденда, ни один исследователь ИИ еще не сменил университетскую должность на корпоративную лабораторию машинного обучения (Jacobides et al., 2021, p. 420). С 2004 по 2018 год, особенно после 2010-го, более 211 профессоров в области ИИ полностью или частично перешли на работу в индустрию, привлеченные высокими зарплатами и вычислительными мощностями (Gofman, 2021). К 2016 году 57 процентов американских специалистов, получивших докторскую степень по компьютерным наукам, пошли работать в индустрию, и только 11 процентов стали преподавателями с возможностью получения постоянной должности (National Academies of Sciences, Engineering, Medicine, 2018). 

Надзорным империям принадлежит большинство ученых и науки. Их дата-сайентисты публикуют большую часть исследовательских работ в области ИИ — «беспрецедентная ситуация по сравнению с любой другой научной областью» (Jacobides et al., 2021, p. 420). При таком небольшом количестве преподавателей колледжи и университеты вынуждены были ограничить набор на компьютерные специальности, что существенно нарушило передачу знаний между поколениями (Gofman and Jin, 2024). В Великобритании руководители университетов говорят о «потерянном поколении» дата-сайентистов (Sample, 2017). Канадский ученый сокрушается: «Власть, экспертиза и данные — все сконцентрировано в руках нескольких компаний» (Murgia, 2019a, para. 11). Проблема затрагивает еще более фундаментальные вопросы о том, какого рода знания вообще производятся. Гиганты доминируют в финансировании ИИ как внутри своих экосистем, так и внутри академической среды (Jacobides et al., 2021, p. 412). Во всех областях направления исследований задаются потребностями их коммерческой деятельности, такой как поиск и социальные сети. Один видный академический исследователь отмечает: «Там, где академическая наука может изучать, как социальные сети меняют мышление людей, корпоративную социальную сеть может интересовать вопрос: если люди публикуют грустные вещи, будут ли они дольше пользоваться нашим продуктом?» (Waddell, 2018, para. 12).

Подробнее читайте:
Зубофф, Ш. Надзорный капитализм или демократия? [Текст] /Шошана Зубофф ; перевод с английского под научной редакцией Артема Смирнова. — Москва : Издательство Института Гайдара, 2025.— 360 с