Нужно +94 подписчика в июне. Поддержите devby 📝
Support us

OpenAI получила первый иск за «галлюцинации» у ChatGPT

На разработчиков ChatGPT из OpenAI подали в суд за клевету: чатбот сгенерировал ложную информацию о человеке в ответ на чужой пользовательский запрос, пишет The Verge.

1 комментарий
OpenAI получила первый иск за «галлюцинации» у ChatGPT

На разработчиков ChatGPT из OpenAI подали в суд за клевету: чатбот сгенерировал ложную информацию о человеке в ответ на чужой пользовательский запрос, пишет The Verge.

Радиоведущий из штата Джорджия Марк Уолтерс решил обратиться в суд после того, как ChatGPT «обвинила» его в мошенничестве и растрате средств некоммерческой организации. Текст был сгенерирован в ответ на запрос журналиста по имени Фред Рил. Уотерс хочет получить с разработчиков денежную компенсацию, её размер не уточняется.

Запрос Рила был связан с реальным судебным разбирательством. Он дал чатботу ссылку на PDF-документ по нему и попросил резюмировать. Составленное чатботом резюме было подробным и убедительным, но факты там оказались смешаны с ложными обвинениями в адрес Уолтерса. В частности, он якобы присвоил более $5 млн, принадлежавших некоммерческой организации Second Amendment Foundation, которая занимается вопросами прав на ношение оружия. В реальности ничего подобного радиоведущему никогда не предъявляли.

Рил сгенерированные чатботом обвинения не публиковал, но решил проверить. Как именно Уолтерс узнал о них, из материалов дела не ясно.

Профессор в США «завалил» выпускников за то что пользовались ChatGPT. Но они не пользовались
Профессор в США «завалил» выпускников за то, что пользовались ChatGPT. Но они не пользовались
По теме
Профессор в США «завалил» выпускников за то, что пользовались ChatGPT. Но они не пользовались

Получится ли привлечь компанию к ответственности за то, что её ИИ-система выдала ложь и клевету, неизвестно. Американское законодательство снимает с интернет-компаний ответственность за информацию третьих лиц, размещаемую на их платформах — вопрос в том, применимо ли это к ИИ-системам, которые не просто размещают ссылки, а на базе сторонней создают новую информацию, отмечает The Verge.

Юристы сомневаются, что дело Уолтерса завершится в его пользу. Прежде чем подать в суд, он не обратился с возникшей проблемой к OpenAI и не дал разработчикам шанс удалить ложные заявления чатбота. Также обвинения чатбота не нанесли ему фактического ущерба.

OpenAI, с одной стороны, на главной веб-странице ChatGPT предупреждает, что система иногда может выдавать некорректную информацию. Но с другой, позиционирует чатбота как источник надёжных данных, который позволяет получать ответы и узнавать что-то новое. Гендиректор OpenAI Сэм Альтман даже заявлял, что предпочитает черпать информацию из ChatGPT, чем из книг.

Apple запретила сотрудникам пользоваться ChatGPT
Apple запретила сотрудникам пользоваться ChatGPT
По теме
Apple запретила сотрудникам пользоваться ChatGPT
Юрист использовал ChatGPT для подготовки документов для суда. Чат-бот довел до суда его самого
Юрист использовал ChatGPT для подготовки документов для суда. Чат-бот довел до суда его самого
По теме
Юрист использовал ChatGPT для подготовки документов для суда. Чат-бот довел до суда его самого
Нужно +94 подписчика в июне.

Поддержите devby

Читайте также
Число софтверных вакансий в США падает 23 недели подряд. Эксперты: это только начало
Число софтверных вакансий в США падает 23 недели подряд. Эксперты: это только начало
Число софтверных вакансий в США падает 23 недели подряд. Эксперты: это только начало
4 комментария
США запретили IT-компаниям с господдержкой строить заводы в Китае в течение 10 лет
США запретили IT-компаниям с господдержкой строить заводы в Китае в течение 10 лет
США запретили IT-компаниям с господдержкой строить заводы в Китае в течение 10 лет
Новый закон в Калифорнии обязывает все компании указывать зарплатные вилки и гендерную разницу в зарплате
Новый закон в Калифорнии обязывает все компании указывать зарплатные вилки и гендерную разницу в зарплате
Новый закон в Калифорнии обязывает все компании указывать зарплатные вилки и гендерную разницу в зарплате
6 комментариев
Второй случай за месяц: женщине в Саудовской Аравии присудили 45 лет тюрьмы за твиты
Второй случай за месяц: женщине в Саудовской Аравии присудили 45 лет тюрьмы за твиты
Второй случай за месяц: женщине в Саудовской Аравии присудили 45 лет тюрьмы за твиты

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

serg123
serg123
0

Суть ошибки такая же как и у автопилотов, только в данном случае без членовредительства. А вообще, где то в сети видел генератор мата, если следовать этой тенденции то программиста можно будет каждый день на 15 суток садить.

Максимум что журналист может сделать это написать статью, что чат гпт не может заменить человека и.к. работает с ошибками

Пользователь отредактировал комментарий 14 июня 2023, 01:32