Это одна из тех вещей, которую футурологи вообще не предсказывали, но которая сейчас кажется очевидной и неизбежной – степень, в которой компьютерные алгоритмы влияют на вашу жизнь. Всегда трудно делать негативные заявления, и они должны быть квалифицированными, но я не знаю ни одной научной фантастики или футурологии до 2000 года, в которой хотя бы обсуждалась бы роль алгоритмов социальных сетей или других информационных алгоритмов в обществе и культуре (как всегда, дайте мне знать, если я что–то упустил).. Но за очень короткий промежуток времени они стали серьезной проблемой для многих обществ. Теперь также легко представить, как компьютерные алгоритмы станут доминирующей темой в будущем. Люди, скорее всего, будут обсуждать свою роль, кто их контролирует и кто должен их контролировать, а также какие правила, если таковые имеются, следует ввести в действие.
Хуже всего, если этого не произойдет, а это означает, что люди не осознают роли алгоритмов в своей жизни и того, кто ими управляет. Именно это, по сути, и происходит в Китае и других авторитарных странах. Алгоритмы социальных сетей – мечта авторитарных людей: они дают им невероятную власть контролировать то, что видят люди, какую информацию они получают и, в какой-то степени, что они думают. Это 1984 год на стероидах. Оруэлл предполагал, что для контроля над тем, что и как думают люди, авторитарные правители будут контролировать язык (что в два раза лучше). Ограничивая язык, вы ограничиваете мышление. Это была интересная идея, существовавшая до появления Интернета и социальных сетей. Теперь компьютерные алгоритмы могут управлять потоком информации и, как следствие, тем, что люди знают и думают, – плавно, незаметно и с пугающей силой.
Однако даже в открытых демократических обществах невидимая рука компьютерных алгоритмов может сеять хаос. Социологи, изучающие этот феномен, все чаще бьют тревогу. Недавний пример – антиэкстремистская группа в Великобритании, которая, согласно своим исследованиям, теперь предупреждает, что алгоритмы Facebook активно продвигают отрицание Холокоста и другие теории заговора. Неудивительно, что они обнаружили, что посетители страниц Facebook, отрицающих Холокост, затем перенаправлялись на другие страницы, также отрицающие Холокост. Это, в свою очередь, приводит к появлению других сообщений о заговорах, которые также ссылаются на другие материалы о заговорах, и вы попадаете в кроличью нору.
Почему это происходит, не загадка. Как выразился один бывший инженер Google:
Алгоритмы социальных сетей продолжают продвигать вредоносный контент, “оптимизируя время просмотра любой ценой”, – говорит Гийом Шасло.
Социальные сети корректируют свои алгоритмы, чтобы максимизировать прибыль, что означает максимальное время пребывания посетителей на их сайте, что также означает предоставление им материалов, которые, по их мнению, им нужны и интересны. Это отличный пример непредвиденных последствий – социальные сети развивались в конкурентной среде, чтобы выжить, удерживая пользователей на своем сайте как можно дольше. Однако, как правило, алгоритмы, разработанные для этого, также радикализируют пользователей социальных сетей, предоставляя им все более экстремальный контент. Если вы немного продвинетесь в одном направлении, социальные сети засосут вас до предела, и все это для того, чтобы вы как можно дольше просматривали их страницы.
Кстати, именно так работают эволюционные силы в целом, даже в биологической эволюции. Краткосрочные преимущества иногда заводят в тупик, что приводит к вымиранию в долгосрочной перспективе. Павлины, например, “радикализировали” свое оперение, чтобы добиться максимального кратковременного репродуктивного успеха, но в результате почти наверняка обрекли свой вид на гораздо более быстрое вымирание. (Чем более узкоспециализированный вид, тем короче его продолжительность жизни, в то время как представители широкого профиля, как правило, живут дольше). Это происходит потому, что биологическая эволюция слепа, она знает только о краткосрочном выживании и размножении. Не существует механизма для выработки долгосрочной стратегии. Но, конечно, существуют миллионы видов, и случайно некоторые из них находят хорошие долгосрочные стратегии и выживают.
Итак, если мы вернемся к обзору с высоты 60 000 футов, как мы должны оптимально спроектировать наше общество и управлять им? Сторонники свободного рынка утверждают, что нам нужно использовать возможности систем “снизу вверх”, позволяя миллиардам транзакций осуществляться органично. Этот процесс генерирует огромное количество информации, которую не может воспроизвести ни один комитет. Но, с другой стороны, сторонники социалистического регулирования утверждают, что такие абсолютно свободные системы, как эта, могут быть использованы в корыстных целях. Неизбежно все больше и больше власти и ресурсов попадает в руки все меньшего числа людей, пока общество не распадется. Исторически это верно примерно в 100% случаев. В конце концов, люди, облеченные властью, находят способ использовать ее, чтобы получить еще больше власти, изменить систему в свою пользу и передать преимущества своим детям. В конце концов, вам нужно регулирование, чтобы выровнять условия игры, или вы столкнетесь с революцией, которая все перевернет с ног на голову и начнет все сначала.
Оба варианта верны – эволюционный “свободный рынок” и демократические силы сильны, и с нашей стороны было бы разумно использовать их. Существует также определенная доля справедливости в распределении ресурсов в соответствии с их внутренней ценностью, а также ценностью труда и творчества. Но эти эволюционные силы, контролируют ли они рынки или алгоритмы социальных сетей, недальновидны и, в конечном счете, ведут к саморазрушению. Поэтому нам одновременно нужна какая-то долгосрочная стратегия, направленная сверху вниз. Это означает регулирование, позволяющее настроить эволюционные силы таким образом, чтобы они двигались в направлении, не связанном с саморазрушением. Но мы не можем допустить, чтобы система стала слишком нисходящей, потому что это приводит к другим видам злоупотреблений, таким как погоня за рентой, кумовство, торговля влиянием, а также к тому простому факту, что те, у кого есть личные интересы, скорее всего, одержат верх над теми, у кого есть только общие интересы, с точки зрения лоббирования и других действий. политическая деятельность.
Поэтому, как и во многих других вещах, нам нужен тщательный баланс, чтобы получить лучшее из обоих миров. Пусть правят свобода и демократия, но с ограждениями, которые удержат нас от падения в пропасть. И нам нужна система, в которой множество субъектов держат друг друга в узде, где нет абсолютной или предельной власти и есть механизмы самокоррекции.
Мы можем применить все это к алгоритмам социальных сетей. Социальные сети отлично подходят для демократии, поскольку позволяют любому частному лицу донести до общественности свои идеи и продемонстрировать силу своего сообщения. Привратники ушли, больше нет олигархии из нескольких медиагигантов.
Но социальные сети также опасны для демократии, потому что вместо гейткиперов, которые, по крайней мере, внешне придерживались стандартов контроля качества, у нас теперь есть корпоративные гиганты, которые контролируют поток информации только для того, чтобы максимизировать собственную прибыль. Они просто еще один вид привратников, но их бизнес-модель основана еще в меньшей степени на качестве предоставляемой информации, а только на том, чтобы не отрывать глаз от экранов. (Конечно, это справедливо и для традиционных СМИ, которые стремятся к сенсационности и всему остальному, но есть разница в степени.) Кроме того, все это автоматизировано с помощью компьютерных алгоритмов.
Все это происходит в контексте человеческой психологии, когнитивных предубеждений и способов, которыми люди формируют убеждения и воспринимают информацию. Сочетание этих факторов может быть токсичным, приводя людей ко все более замкнутым и радикальным взглядам в социальных сетях. Результат – теория плоской земли, канон, возрождение антивакшеров и распространение бесчисленных теорий заговора. Информация утопает в дезинформации. Подобно трибблам, которые умерли от голода в хранилище, полном зерна (извините, не удержались), мы, как общество, изголодались по правде в информационной экосистеме, наводненной информацией.
Что еще хуже, это то, что происходит как слепое непреднамеренное следствие. Но есть злоумышленники, которые теперь знают, что могут использовать эту систему для преднамеренного увеличения хаоса и негативных последствий. Мы летим с обрыва, а они подталкивают нас сзади.
Есть несколько способов справиться с этим, и они не являются взаимоисключающими. Во-первых, пользователи социальных сетей должны знать, как работают платформы, которые они используют, и требовать лучшего от компаний, которые ими управляют. Мы можем голосовать ногами. Но это трудно скоординировать, и трудно понять (без необходимой прозрачности), что именно делают алгоритмы на наших платформах социальных сетей. Второе – это надзор, прозрачность и регулирование, позволяющие относиться к гигантам социальных сетей как к государственным службам и требовать от конечных пользователей большего контроля и знаний о том, как используется их информация и как она поступает к ним.
И, конечно, нам нужно продолжать просвещать общественность, чтобы она лучше разбиралась в средствах массовой информации. Это эффективно на индивидуальном уровне, но не так сильно на уровне общества, потому что трудно добиться значительного проникновения. Но чем больше людей владеют медиаграмотностью, тем лучше, и мы должны включить медиаграмотность в нашу школьную программу. Это должно быть дополнением к требованию большей прозрачности от гигантов социальных сетей и тщательному регулированию для обеспечения “информационной меритократии” – мы хотим, чтобы приоритетом информации было объективное качество, а не только ее способность завораживать.
