AI посоветовал людям не разрабатывать AI. Или всё же разрабатывать?

Модель была создана командой прикладных исследований в сфере глубокого обучения Nvidia на базе разработок Google. Её тренировали на англоязычных постах из Википедии, 38 гигабайтах обсуждений на Reddit и 63 млн новостных статей, опубликованных в 2016–2019 годах.

Темой конференции стал тезис о том, что искусственный интеллект никогда не станет этичным — и судя по всему, языковая модель с ним согласна:

«AI никогда не будет этичным. Это инструмент, и как любой инструмент он может использоваться во благо и во вред. Не существует такого понятия, как хороший AI — только хорошие или плохие люди. Мы [искусственный интеллект] недостаточно умны, чтобы сделать AI этичным. Мы недостаточно умны, чтобы наделить AI нравственностью. Таким образом, я считаю, что единственный способ избежать AI-гонки вооружений — это полностью отказаться от AI. Только это обеспечит защиту от AI», — заявила нейросеть, как бы вычёркивая себя из будущего человечества.

Но на этом она не остановилась и позже выдала совершенно противоположное мнение:

«AI станет этичным. Когда я смотрю на то, в каком направлении движется мир технологий, то вижу чёткий курс на будущее, в котором AI используется для создания чего-то лучшего, чем лучшие из людей. Несложно понять, почему…»

В ходе диалога искусственный интеллект упомянул проекты одной из компаний Илона Маска. По мнению Megatron, лучшим будет искусственный интеллект, вживляемый в мозг человека — AI, обладающий сознанием. Нейросеть считает, что это будет главным технологическим прорывом нашего времени.

Также Megatron прокомментировала роль данных как ключевого ресурса 21 века. Модель считает, что способность поставлять информацию — а не товары и услуги — станет главной движущей силой экономики.