У человечества масса причин опасаться созданных своими же руками алгоритмов искусственного интеллекта. Автор статьи для Mashable Крис Тейлор рассказывает, как алгоритмы соцсетей определяют, какой и чей контент (не) предстанет перед глазами пользователей. Публикуем перевод статьи.
У человечества масса причин опасаться созданных своими же руками алгоритмов искусственного интеллекта. Автор статьи для Mashable Крис Тейлор рассказывает, как алгоритмы соцсетей определяют, какой и чей контент (не) предстанет перед глазами пользователей. Публикуем перевод статьи.
Влияние алгоритмов в последнее время колоссально. К примеру, в Китае на государственном уровне реализуется «система социального кредита», построенная на обработке больших данных. В зависимости от социального рейтинга гражданам ограничивается доступ к тем или иным должностям, общественным благам, займам и прочему.
А в Великобритании в этом августе разразился скандал вокруг алгоритма оценки знаний школьных выпускников — его внедрили вместо обычных экзаменов, отменённых из-за коронавируса. Учителей попросили предположить, какие отметки получат ученики, и скормили их алгоритму вместе с результатами школ за прошлые годы. В результате 40% всех учительских оценок были понижены: AI оказался предвзят в пользу детей из более престижных заведений. От алгоритма решили отказаться.
В некоторых штатах США применяют алгоритмы для расчёта вероятности, с которой человек совершит повторные преступления, и в помощь судьям при вынесении приговора. Причём задействованные в уголовном судопроизводстве алгоритмы принадлежат коммерческим компаниям. Их обвиняют в расизме: организация ProPublica выяснила, что алгоритм COMPAS, используемый во Флориде и Висконсине, в два раза чаще называет особо опасными темнокожих подсудимых, чем белых, и при этом ошибается в 40% случаев.
Изъяны этих алгоритмов всего лишь указывают на человеческие свойства их создателей. Математика как таковая не имеет никакого отношения к расизму или авторитаризму, а алгоритм — не более чем последовательность команд, каких полно в тех же кулинарных книгах. Качество алгоритма, как и любого блюда, зависит от ингредиентов. Но те, на чьём столе оно окажется, нечасто задумываются о том, что происходит на кухне.
Как и пользователи Google, которые редко переходят на вторую страницу поисковой выдачи, составленной алгоритмом, или критически задумываются над результатами. Алгоритмы окружают нас повсюду, пишет в одной из своих книг математик Ханна Фрай: нам удобно позволять им принимать решения за нас, переложить ответственность, не задумываться.
С другой стороны, люди сразу бы ощутили отсутствие алгоритмов, исчезни они полностью из повседневной жизни. Они управляют светофорами на дороге — не будь их, города остановятся в одной большой пробке. Алгоритм прокладывает наиболее удобный в час пик маршрут в Google Maps и отфильтровывает спам, который иначе завалит папку входящих.
Их влияние на нашу жизнь в интернете и на то, какой контент мы потребляем в сети, невозможно переоценить. Чем больше учёные занимаются этим вопросом, тем больше убеждаются, что популярные поисковые системы, алгоритмы в видеосервисах и соцсетях, по сути, управляют нашим разумом. Исследователи установили, что алгоритмы способны менять наше настроение (это подтвердила и сама Facebook) и даже итоги президентских выборов, как это произошло в США в 2016 году.
Ниже приведены алгоритмы четырёх популярных сервисов — и как минимизировать их вмешательство в нашу жизнь.
Ни у одного алгоритма в мире нет такого охвата, как у соцсети Марка Цукерберга. Ежедневно на Facebook заходит около 2 млрд человек. Почти для всех этих людей порядок постов в ленте — такой, который удержит их в соцсети как можно дольше, — его устанавливает специальный алгоритм ранжирования. Он подбрасывает вам гораздо больше постов друзей, с которыми вы общались раньше, независимо от того, насколько близкие у вас отношения сейчас. Или поднимает выше контент, который провоцирует горячие словесные баталии. И «Цукерберг» об этом знает.
Алгоритм Facebook играет на тяге человеческого мозга к конфликтам, отмечалось во внутреннем исследовании компании 2018 года, о котором писал Wall Street Journal.
Без контроля эти алгоритмы будут продвигать холиварные темы, чтобы зацепить внимание пользователей и продлить время, которое они проводят в соцсети, предупреждают авторы документа.
Цукерберг якобы опасался, что если исправить алгоритм так, чтобы он выводил выше более мирные посты, то это непропорциональным образом отразится на консерваторах, и исследование положили на полку. Последние четыре года дела у консервативной партии с Facebook идут просто замечательно, где они правят бал с 2016 года, когда заставили соцсеть отказаться от модераторов, курировавших новости. Если посмотреть на список публикаций Facebook за 2020 год, которые набирают больше всего репостов, то изо дня в день в нём преобладают имена консерваторов.
Но даже у них есть повод для беспокойства. Исследователи установили, что просмотр популярных постов друзей вызывает зависть и депрессию. Установлена сильная связь между зависимостью от Facebook и депрессивным расстройством. Люди, которые массированно что-то постят, заглушают менее активных пользователей, говорится в документе 2018 года. Один из менеджеров Facebook, который хотел снизить влияние первых на алгоритм, внезапно ушёл из компании.
К счастью, Facebook позволяет временно отключать алгоритм сортировки публикаций в ленте и просматривать все посты от всех друзей и отслеживаемых пользователей в хронологическом порядке (самые свежие посты будут наверху). Для этого на сайте Facebook.com нужно нажать на три точки рядом с меню «Лента новостей» и выбрать «Новейшее». В приложении просто перейдите в настройки бургер-меню, нажмите «Ещё» и «Сначала новые».
В вашей ленте появятся посты давно забытых людей, а взаимодействуя с ними, вы обучите алгоритм строить ленту так, как нужнее вам, к тому моменту, когда он снова активируется. Просматривать ленту в хронологическом порядке, может, и не совсем удобно, но так вы хоть немного избавитесь от диктатуры алгоритма. Если сидите в Facebook ежедневно, попробуйте делать так хотя бы раз в неделю.
Алгоритм автовоспроизведения YouTube вредит демократии не меньше, если не больше, чем любовь Facebook к провокационным постам. Около 70% просматриваемых нами видеороликов рекомендованы движком сервиса, который оптимизирован так, чтобы любым способом заставить людей просмотреть как можно больше контента и рекламы. К слову, средняя длительность пользовательской сессии на YouTube — уже больше часа.
А значит, YouTube будет отдавать приоритет острому контенту, потому что хотите вы этого или нет, вы продолжите смотреть его. И когда закончится один «неоднозначный» ролик, алгоритм подбросит ролики, которые дальше включали другие пользователи, тоже смотревшие его. Это объясняет, почему после безобидного новостного репортажа можно очнуться за просмотром видео на тему конспирологических теорий.
Экс-гуглер Гийом Часлот обнаружил следы влияния предвзятого алгоритма YouTube на исход американских выборов 2016 года, перевес в которых составил всего 77 тысяч голосов в трёх штатах. Более 80% рекомендованных видео носили протрамповский характер независимо от того, был ли изначальный запрос «Трамп» или «Клинтон», писал он об алгоритме. Большинство этих рекомендаций приходились на видео спорного содержания и фейковые новости, пишет Числот.
Он также заметил, что 90% рекомендованных видео в выдаче по запросу «является ли Земля плоской» положительно отвечают на этот вопрос.
Эта проблема существует не только в США. Один из самых показательных кейсов о политическом влиянии YouTube — Бразилия: правого кандидата Жаира Болсонару избрали президентом после того, как он стал звездой видеохостинга. «Поисковая и рекомендательная система YouTube систематически уводила пользователей на крайние правые и конспирологические бразильские каналы», — предположили по итогу расследования в 2019 году журналисты New York Times. Вклад алгоритма в победу Болсонару признают даже его сторонники.
Выключайте автовопроизведение — нужно просто перетянуть влево тумблер рядом с надписью «Следующее» на панели с видеороликами справа. Так вы хотя бы перестанете на автопилоте смотреть всё подряд, что предлагает YouTube. Полностью отключить рекомендации нельзя, но можно хоть немного защитить менее «прошаренных» родственников от алгоритма, который манипулирует их взглядами ради просмотров.
Кстати, если вы дрессировали алгоритм лайками и дизлайками на протяжении нескольких лет и он хорошо знает ваши интересы, то его рекомендации будут вполне адекватными. У новых пользователей YouTube картина совсем другая.
Instagram, в отличие от материнской компании, полностью отказался от хронологического отображения постов в 2016 году. Из-за этого сервис стали подозревать в использовании «теневого бана», или блокировки контента юзера без его ведома. Instagram отображает все фото и сторис — вопрос в том, сколько до них придётся скролить, но некоторые имена появляются на верху ленты настолько часто, что можно почувствовать себя Instagram-сталкером.
В февральском обновлении Instagram появилась функция, которая позволяет посмотреть, с какими подписками вы взаимодействуете чаще или меньше всего. Для этого нужно нажать на значок профиля в правом нижнем углу интерфейса, перейти в раздел «Подписки», где отобразятся категории «Меньше всего взаимодействий» и «Чаще всего показываются в ленте». Выберите первый пункт и просматривайте посты, обделённые вашим вниманием.
Также в Instagram есть сортировка постов в ленте по дате подписки на аккаунты. Помимо этого, соцсеть тестирует опцию «Последние публикации» для показа контента в порядке опубликования, но широкой публике она пока недоступна.
В этом плане Twitter ничем не отличается от своих конкурентов и тоже экспериментирует с подачей контента не в традиционном для себя хронологическом порядке. К примеру, платформа Джека Дорси выкатила опцию отслеживания не только людей, но и твитов по различным темам. Хотя в 2018 году соцсеть вернула хронологическую ленту.
Настройки ленты в Twitter находятся рядом с надписью «Главная» по центру в верху страницы. Нажмите на «звёздочки» справа от неё, после чего — «Показывать вместо этого последние твиты». Из всех соцсетей отключить «умную» ленту проще всего именно в Twitter.
Листать до чего-то интересного, возможно, придётся дольше, а наполнение ленты будет зависеть, например, от времени суток, в которое вы сидите в Twitter. Но для тех, кто не хочет отдавать в руки алгоритма подбор постов в ленте, режим «Последние твиты» — то что надо.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.