Что почитать на тему искусственного интеллекта. От основ AI до sci-fi рассказов

Издание The Verge опубликовало подборку книг, романов и блогов, рекомендованных ведущими экспертами в области искусственного интеллекта. От практических основ технологии до научно-фантастических произведений.

«Черты будущего» — Артур Чарльз Кларк

Грэг Брокман и Илья Суцкевер, соонователи OpenAI:

— Эта книга изменила наше представление о том, насколько быстро AI может повлиять на мир. Мы привыкли считать, что технологический прогресс происходит постепенно, медленно, складывается из множества небольших инноваций, которые, если смотреть со стороны, создают только иллюзию быстрого технологического прогресса.

Книга «Черты будущего» заставила нас осознать, что существует несколько чрезвычайно важных исключений. В заключительных главах Кларк излагает свои прогнозы на будущее, а в начальных — анализирует чужие предположения относительно таких технологий, как авиатехника, космические путешествия и ядерная энергетика, сделанные ещё до их изобретения. В каждом случае появление технологии было предсказано небольшой группой оптимистов, окружённых подавляющей массой респектабельных знатоков, которые утверждали, что того или иного коренного технологического прорыва достичь невозможно (по крайней мере в обозримом будущем). Как следствие, даже для большинства экспертов крупные технологические изменения становились большой неожиданностью.

Каким будет прогресс AI в долгосрочной перспективе? Будет ли технология развиваться по сценарию, легко предсказуемому на 5-10 лет вперёд, или же случится неожиданный и непомерный скачок, который мгновенно перевернёт мир? Книга заставляет поразмышлять над подобными вопросами.

The Book of Why — Джуда Перл, Дана Маккензи

Румман Чоудхари, глава AI-подразделения в Accenture:

— Книга об искусственном интеллекте без роботов, апокалиптических сюжетов и грандиозных предзнаменований. В сдержанном и увлекательном стиле авторы опровергают гипотезу: коренные основы современных систем предиктивного моделирования неверны. По мнению авторов, нам не хватает языка причинности — измеримых доказательств того, что одно явление влечёт за собой другое. Этот фундаментальный пробел прослеживается в истории статистики и ставит под сомнение то, как мы ставим вопросы и ищем ответы.

Печальная тайна методов AI и машинного обучения, используемых в прогнозировании, состоит в том, что в действительности они не позволяют с уверенностью сказать, был ли тот или иной фактор вызван другим. Вместо этого они опираются на миллионы повторов и ищут ценные взаимосвязи. Во многих случаях смещения в AI-системах вызваны плохим или никаким пониманием взаимосвязанных переменных (например, народ и почтовый индекс, социоэкономический статус и образование). Эта спорная книга ставит под вопрос и переосмысливает компоненты в составе наших AI-систем.

«Выборы» — Айзек Азимов

Тим Хван, директор совместной программы Ethics and Governance of AI Initiative Массачусетского технологического института и Гарвардского института:

— Серия книг Азимова о роботах, наверно, первое, что приходит на ум, когда речь заходит о влиянии искусственного интеллекта на социум. Это повод вспомнить три избитых закона робототехники и с умным видом порассуждать о том, как давно человек мечтает изобрести «умную» машину.

Но среди работ Азимова современные реалии машинного обучения лучше отражены в рассказах цикла «Мультивак». Он посвящён не говорящим и ходячим роботам, а мощному глобальному компьютеру, для управления которым нужны специальные знания и смысл результатов которого часто не понятен его операторам.

Один из рассказов, к которым я постоянно возвращаюсь, — это «Выборы». Он был впервые напечатан в журнале If за август 1955 года. Действие происходит в Америке в 2008 году; в ходе президентских выборов привычное голосование решено заменить статистической моделью, которая просчитывает результаты кампании на основании опроса всего одного среднестатистического человека.

В «Выборах» искусно передана необычно цикличная природа прогнозов, а также вполне реальный и хрупкий баланс между предсказуемостью и легитимностью. Даже если бы мы могли в точности спрогнозировать исход голосований, рецидивов или безработицы, как автоматизированный процесс отличался бы от проводимого человеком? Эта книга безусловно заслуживает прочтения.

«Убийственные большие данные. Как математика превратилась в оружие массового поражения» — Кэти О’Нил

Кейт Дарлинг, исследовательница MIT Media Lab:

— Сначала я хотела посоветовать какую-нибудь отвлечённую научно-фантастическую книгу, но иногда наша действительность являет гораздо более интересную антиутопию. В январе 2019 года американского политика Александрию Окасио-Кортес осуждали за заявление о том, что в алгоритмах могут быть заложены предрассудки и предубеждения. Мне кажется, всем людям независимо от политических взглядов будет полезно иметь базовое понимание некоторых «подводных камней» в современных AI-системах. Эта книга, подкреплённая потрясающими (и ужасающими) кейсами из реальной жизни, станет отличным введением в алгоритмы и используемые нами данные, наделение влиянием систем, которые могут либо улучшить, либо разрушить нашу жизнь, а также то, к каким катастрофическим последствиям они могут приводить, оказавшись в «неправильных» руках.

Кэти О’Нил — математик и специалист по обработке данных, которая из академических кругов попала в мир аналитики Уолл-Стрит и позже примкнула к протестному движению «Захвати Уолл-стрит». Её знаменитая книга раскрывает проблемы использования алгоритмов в сфере финансов, правосудия, найма, образования и многих других. Многие из внедряемых сегодня AI-систем, которые человечество собирается использовать в ближайшем будущем, столкнутся с проблемами, подчёркнутыми в книге О’Нил. Она обязательна к прочтению для всех, кто интересуется реализацией искусственного интеллекта.

«Алмазный век, или Букварь для благородных девиц» — Нил Стивенсон

Джереми Ховард, сооснователь fast.ai:

— «Букварь» — это величайшее творение ведущего разработчика в самой успешной софтверной компании мира. Потому что это не обычная книга: она невероятно интерактивна и рассказывает читателю именно то, что ему нужно в определённый момент времени, языком, который разжигает ещё больший интерес. В центре сюжета — девочка по имени Нелл из неблагоприятной семьи, которую «Букварь» научил всем необходимым навыкам для выживания и процветания. Читатель вместе с Нелл проживает её путь от маленькой девочки, которая потеряла всё, до молодой девушки, в чьих силах изменить мир.

Я впервые прочёл эту книгу 20 лет назад, и навсегда усвоил её идею: технологии могут открыть возможности для тех, кто иначе был бы их лишён. Как и в случае с любыми технологиями, многие сегодня критикуют то, что дети постоянно смотрят «в экран». Но качественных современных исследований в поддержку этого скептицизма нет. Препятствуя использованию технологий в обучении, мы ограничиваем шанс получить лучшее образование для детей из непривилегированных слоёв, у которых нет доступа к лучшим учителям.

Миссия fast.ai — помочь обеспечить свободный доступ к AI-инструментам и образованию. Технологии играют ключевую роль в этой миссии. Без них наши пользователи и слушатели не смогли бы проходить наши онлайн-курсы и быть частью сообщества, а также пользоваться облачными платформами, которые мы применяем. Хотя я ещё не встречал настолько кастомизированного образовательного продукт на основе AI, как «Букварь». Технологическая база для этого уже подготовлена — нужно, чтобы кто-то просто собрал всё воедино.

Machine Learning For Humans — Вишал Маини, Самер Сабри

Демис Хассабис, сооснователь и СЕО DeepMind:

— На удивление сложно посоветовать книгу о том, что такое AI, которая бы не слишком углублялась в технические детали или, наоборот, не уходила в философию — я думаю, в ближайшие годы таких книг появится больше. Я бы остановился на книге Machine Learning For Humans — она не потребует от читателя обширных познаний и станет хорошим введением в AI. К тому же, она бесплатно доступна в сети. Она настолько впечатлила команду DeepMind, что мы наняли одного из её авторов.

Ещё один способ разобраться с AI — отталкиваться от предмета или области, с которыми вы более или менее знакомы. Такой точкой входа могут быть шахматы: большинство людей знают основные правила, даже если сами особо не играли. Не так давно шахматисты Мэттью Садлер и Наташа Реган выпустили книгу Game Changer о недавнем прорыве DeepMind — алгоритме AlphaZero, который с нуля научился играть в шахматы, играя сам с собой, и в итоге победил сильнейших игроков в мире. Книга содержит один из самых исчерпывающих разборов продвинутой AI-программы и увлекательной форме раскрывает принцип работы таких AI-алгоритмов, как AlphaZero.

Sorting Things Out: Classification and its Consequences — Джеффри Боукер, Сьюзан Ли Стар

Мередит Уиттакер, сооснователь и содиректор AI Now Institute при Нью-Йоркском университете:

— Это маст-рид для всех, кто интересуется вопросами предвзятости, беспристрастности и справедливости AI.

AI-системы — прежде всего системы классификации. Они обучаются на данных и используют свои «знания» для классификации того, что «видят». Например, AI-систему для найма можно научить тому, что из себя представляет «перспективный соискатель», введя в неё видео «успешных сотрудников». Если показать такой системе видеоролик соискателя, она сравнит его с комплексным образом успешного сотрудника и классифицирует соискателя как перспективного или неперспективного. Подобные системы уже используются, но есть опасные нюансы: если, к примеру, в обучающем датасете доля видео с темнокожими женщинами была слишком низка, то система вряд ли классифицирует их как «перспективных», а значит, шансы темнокожих женщин получить работу стремятся к нулю.

Книга Sorting Things Out затрагивает политику и последствия такого механизма классификации; классификация рассматривается не как отражение «естественных категорий», а как продукт истории, культуры и власти, в котором «каждая категория фокусируется на одной точке зрения и нивелирует другую». Авторы приводят примеры различных систем классификации от апартеида в Южной Африке до Международной классификации болезней ВОЗ, чтобы показать случайность категорий, которые мы часто принимаем как должное. Книга о важности понимания и критической оценки AI-систем, которые сегодня автоматизируют классификацию в ключевых социальных сферах.

«Верховный алгоритм. Как машинное обучение изменит наш мир» — Педро Домингос

Джеймс Винсент, обозреватель по темам AI и робототехники The Verge:

— Меня точно нельзя назвать светилом в мире AI, но как человек, который зарабатывает освещением этой темы, я прочёл достаточно книг, чтобы ориентироваться в ней. Две из них с самого начала вызвали у меня особый интерес, и я постоянно рекомендую их: «Верховный алгоритм» Педро Домингоса и «Искусственный интеллект» Ника Бострома.

Книга «Искусственный интеллект», написанная оксфордским профессором философии Бостромом, повествует об угрозе общего искусственного интеллекта (artificial general intelligence). Она вдохновила некоторых лидеров ИТ на спорные заявления об угрозе роботов-убийц (к которым, как мне кажется, стоит относиться весьма и весьма скептически), но в то же время она — лучшее введение в проблему повышения безопасности умных машин, которое я когда-либо читал. Причём эта проблема касается как суперумных, так и менее интеллектуальных систем. Тема не самая позитивная, но эту научную книгу на удивление приятно читать, хотя иногда она граничит с научной фантастикой.

«Верховный алгоритм» — отличное введение в технические аспекты AI. Она проходится по фундаментальным компонентам и понятиям от эволюционных алгоритмов до байесовской вероятности, а также показывает, как машинное обучение пересекается с такими дисциплинами, как нейробиология и психология. Иногда Домингос преувеличивает «неограниченную» мощь AI — это не «волшебные» системы, и зачастую они содержат глубокие изъяны, что очевидно из других книг списка. Но даже это хорошо даёт понять, насколько завораживающим может быть сам по себе потенциал технологии.

Новый рекламный формат в наших телеграм-каналах.

Купить 500 символов за $150