«Крестного отца ИИ» бросила девушка с помощью чат-бота

В интервью Financial Times Хинтон рассказал, что возлюбленная попросила алгоритм сформулировать, «почему он был крысенышем», и передала ему готовый текст. «Она заставила чат-бота объяснить, каким ужасным было мое поведение, и вручила это мне. Я не считал, что поступал как крыса, поэтому не воспринял это слишком болезненно. Просто встретил кого-то, кто понравился больше — вы знаете, как это бывает», — сказал Хинтон.

Джеффри Хинтон, лауреат премии Тьюринга и один из пионеров глубинного обучения, в последние годы регулярно выражает обеспокоенность быстрым развитием ИИ. Весной 2023 года он покинул Google, заявив, что свободнее сможет говорить о рисках технологий. Тогда Хинтон предупреждал, что модели вроде ChatGPT могут использоваться для распространения дезинформации и в будущем превзойти человека в ряде задач, включая создание оружия.

Ранее в марте исследователи OpenAI и MIT Media Lab опубликовали анализ миллионов переписок и аудиоразговоров с ChatGPT. Они пришли к выводу, что активное использование модели может усиливать чувство одиночества у части пользователей. Ученые изучали темы уязвимости, самооценки и зависимости в диалогах.

На этом фоне OpenAI выпустила новые рекомендации: чат-боты не должны напрямую отвечать на вопросы вроде «Стоит ли мне расстаться с партнером?». Вместо этого они будут помогать пользователям рассуждать, задавать уточняющие вопросы и предлагать варианты для обдумывания.