Почему люди грубят друг другу? Об этом я подробнее расскажу в следующей главе. В общих же чертах: обычные люди собираются вместе в среде, где основным – а то и вовсе единственным – поощрением служит внимание. Например, они не могут всерьез надеяться на то, что заработают в сети деньги. Обычные пользователи могут добиться только мнимой, но никак не реальной власти и материальных благ. Вот и начинаются игры разума.

Когда, кроме внимания, добиваться становится нечего, обычные люди становятся моральными уродами, потому что на самых бессовестных и агрессивных реагируют острее всего. Этот фактор влияет на действия всех прочих компонентов машины ОБЛОМа.

О второй составляющей этой машины я уже упоминал в предыдущей главе.

Все люди находятся под наблюдением, прямо как в фантастическом романе-антиутопии. Тотальная слежка теоретически могла бы существовать и без платформ, где собирается куча моральных уродов, но так уж вышло, что в созданном нами мире эти два компонента часто пересекаются.

Слежка ведется главным образом при помощи подключенных к сети персональных устройств – особенно смартфонов, если говорить о дне сегодняшнем – которые люди носят на собственном теле. Программы узнают о контактах каждого человека, его интересах, движениях, эмоциональных реакциях на разные обстоятельства, выражениях лица, его покупках и жизненных показателях. Огромный, нескончаемый и постоянно пополняющийся поток данных.

Если вы читаете этот текст с электронного устройства, велика вероятность, что алгоритм считывает данные, скажем, о вашей скорости чтения или о том, когда вы прерываетесь и переключаетесь на что-нибудь другое.

Алгоритмы соотносят между собой как данные одного человека, так и данные разных людей. Их выводы являются теоретическими предположениями о характере каждого человека, степень предсказуемости которых проходит многократную проверку. Как и любые теории, построенные на логике, время от времени они совершенствуются за счет адаптивной обратной связи.

Алгоритмы выбирают, что будет переживать человек, использующий то или иное устройство. Этот компонент можно назвать лентой, движком рекомендаций или персонализацией.

Третий компонент означает, что все люди видят разное. Прямая мотивация – дать стимулы для персонализированного изменения поведения.

ОБЛОМ затрудняет понимание того, почему окружающие думают и ведут себя так, а не иначе. Воздействие этого компонента я рассмотрю подробнее в главе, посвященной тому, как мы утрачиваем доступ к правде и возможность сопереживать.

(Не вся персонализация обусловлена ОБЛОМом. Когда Netflix рекомендует фильм, а eBay – товар, это не ОБЛОМ. Но становится ОБЛОМом в сочетании с другими компонентами. Ни Netflix, ни eBay не получают денег от третьих сторон и не воздействуют на ваше поведение вне вашей текущей активности на их сайтах.)

Первые три элемента сочетаются друг с другом, в результате чего получается машина измерения и обратной связи, намеренно изменяющая поведение пользователей.

Напоминаю: индивидуально настраиваемые ленты новостей оптимизируются, зачастую с применением мощных эмоциональных сигналов, для «вовлечения» каждого пользователя и последующего формирования зависимости. Люди не осознают, как именно ими манипулируют. Базовая цель манипуляции – заставить людей проводить в системе как можно больше времени [27] . Но у манипуляторов есть и другие цели.

Например, если вы читаете с электронного устройства, подключенного к интернету, ваши читательские привычки будут сопоставляться с привычками множества других людей. И если человек с похожими на ваши привычками купит что-то после того, как этот товар будет представлен ему определенным образом, то вероятность того, что вы тоже купите этот товар, возрастет. Перед выборами вы могли попасть в группу, для которой в интернете были написаны странные посты, призванные пробудить цинизм в людях, похожих на вас, и снизить шанс на то, что вы пойдете голосовать.

Владельцы платформ, использующие алгоритмы ОБЛОМа, с гордостью рассказывают об экспериментах, в ходе которых людей намеренно расстраивали, влияли на их избирательную активность и усиливали приверженность к определенным торговым маркам. Примером тому служат несколько знаменитых исследований, обнародованных в период зарождения ОБЛОМа [28] .

Подход цифровых сетей к изменению поведения сводит все эти разнородные фрагменты жизни воедино. С точки зрения алгоритма злость, счастье и приверженность к торговой марке – разные, но похожие сигналы, которые можно оптимизировать.

Если окажется, что вас расстраивают посты определенного характера, они начнут попадаться вам все чаще. Никто и никогда не будет знать наверняка, почему именно эти посты так на вас действуют, и вы, возможно, даже не заметите, что немного расстроились из-за конкретного поста. Эффект слабый, но накопительный. Ученые только начинают догадываться о том, как это работает, основная часть процесса им недоступна, она происходит за счет автоматики. Это новая разновидность зловещего теневого мира.

Алгоритмы редко задают вопросы, а еще реже это делают независимые ученые – отчасти как раз из-за сложности понимания работы алгоритмов, которые автоматически совершенствуются за счет обратной связи.