OpenAI получила первый иск за «галлюцинации» у ChatGPT
На разработчиков ChatGPT из OpenAI подали в суд за клевету: чатбот сгенерировал ложную информацию о человеке в ответ на чужой пользовательский запрос, пишет The Verge.
На разработчиков ChatGPT из OpenAI подали в суд за клевету: чатбот сгенерировал ложную информацию о человеке в ответ на чужой пользовательский запрос, пишет The Verge.
Радиоведущий из штата Джорджия Марк Уолтерс решил обратиться в суд после того, как ChatGPT «обвинила» его в мошенничестве и растрате средств некоммерческой организации. Текст был сгенерирован в ответ на запрос журналиста по имени Фред Рил. Уотерс хочет получить с разработчиков денежную компенсацию, её размер не уточняется.
Запрос Рила был связан с реальным судебным разбирательством. Он дал чатботу ссылку на PDF-документ по нему и попросил резюмировать. Составленное чатботом резюме было подробным и убедительным, но факты там оказались смешаны с ложными обвинениями в адрес Уолтерса. В частности, он якобы присвоил более $5 млн, принадлежавших некоммерческой организации Second Amendment Foundation, которая занимается вопросами прав на ношение оружия. В реальности ничего подобного радиоведущему никогда не предъявляли.
Рил сгенерированные чатботом обвинения не публиковал, но решил проверить. Как именно Уолтерс узнал о них, из материалов дела не ясно.
Профессор в США «завалил» выпускников за то, что пользовались ChatGPT. Но они не пользовались
Профессор в США «завалил» выпускников за то, что пользовались ChatGPT. Но они не пользовались
Получится ли привлечь компанию к ответственности за то, что её ИИ-система выдала ложь и клевету, неизвестно. Американское законодательство снимает с интернет-компаний ответственность за информацию третьих лиц, размещаемую на их платформах — вопрос в том, применимо ли это к ИИ-системам, которые не просто размещают ссылки, а на базе сторонней создают новую информацию, отмечает The Verge.
Юристы сомневаются, что дело Уолтерса завершится в его пользу. Прежде чем подать в суд, он не обратился с возникшей проблемой к OpenAI и не дал разработчикам шанс удалить ложные заявления чатбота. Также обвинения чатбота не нанесли ему фактического ущерба.
OpenAI, с одной стороны, на главной веб-странице ChatGPT предупреждает, что система иногда может выдавать некорректную информацию. Но с другой, позиционирует чатбота как источник надёжных данных, который позволяет получать ответы и узнавать что-то новое. Гендиректор OpenAI Сэм Альтман даже заявлял, что предпочитает черпать информацию из ChatGPT, чем из книг.
Apple запретила сотрудникам пользоваться ChatGPT
Apple запретила сотрудникам пользоваться ChatGPT
Юрист использовал ChatGPT для подготовки документов для суда. Чат-бот довел до суда его самого
Юрист использовал ChatGPT для подготовки документов для суда. Чат-бот довел до суда его самого
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Суть ошибки такая же как и у автопилотов, только в данном случае без членовредительства. А вообще, где то в сети видел генератор мата, если следовать этой тенденции то программиста можно будет каждый день на 15 суток садить.
Максимум что журналист может сделать это написать статью, что чат гпт не может заменить человека и.к. работает с ошибками
Пользователь отредактировал комментарий 14 июня 2023, 01:32