Некоммерческая организация по защите данных NOYB обратилась к норвежскому регулятору с жалобой на OpenAI. Причиной стало то, что чат-бот ChatGPT сгенерировал ложную и клеветническую информацию о норвежском гражданине, безосновательно обвинив его в убийстве двух детей и покушении на третьего.
Некоммерческая организация по защите данных NOYB обратилась к норвежскому регулятору с жалобой на OpenAI. Причиной стало то, что чат-бот ChatGPT сгенерировал ложную и клеветническую информацию о норвежском гражданине, безосновательно обвинив его в убийстве двух детей и покушении на третьего.
Инцидент произошел, когда Арве Хьялмар Холмен решил узнать у ChatGPT информацию о себе. Бот правильно определил его национальность, место жительства в Тронхейме и количество детей — троих сыновей. Однако, помимо правдивых сведений, ChatGPT заявил, что в 2020 году Холмен был приговорен к 21 году тюремного заключения за тяжкие преступления против собственных детей.
NOYB провела собственное расследование, изучив архивные газетные публикации, чтобы выяснить, не существует ли однофамильца Холмена, осужденного за подобные преступления, но никаких подтверждений выдуманной истории обнаружено не было. Сейчас ChatGPT больше не распространяет ложную информацию о Холмене, однако и сам норвежец, и представляющая его интересы организация обеспокоены тем, что данные могли сохраниться в обучающих наборах данных OpenAI и в будущем могут вновь появиться в ответах бота другим пользователям.
В NOYB подчеркивают, что подобные случаи «галлюцинаций» нейросетей, когда они создают вымышленную информацию, представляют серьезную проблему, особенно когда речь идет о клевете и нанесении репутационного вреда, а не о «безобидных ошибках». Организация указывает на то, что в соответствии с Генеральным регламентом о защите данных (GDPR) компании обязаны обеспечивать точность обрабатываемых персональных данных, а граждане ЕС имеют право запрашивать исправление неверной информации о себе.
Юрист по защите данных из NOYB Йоаким Сёдерберг заявил, что простого предупреждения пользователей о том, что ChatGPT может допускать ошибки, «явно недостаточно» в подобных ситуациях. По его мнению, компания не может распространять ложную информацию и затем ограничиваться небольшим дисклеймером о возможной недостоверности сведений. NOYB уже обращалась к OpenAI в апреле 2024 года с требованием исправить неверную дату рождения известной личности, однако компания ответила, что не может вносить изменения в данные, а лишь способна «блокировать» их выдачу по определенным запросам.
NOYB подала официальную жалобу в норвежское Управление по защите данных (Datatilsynet), требуя обязать OpenAI удалить клеветнический контент, провести дополнительную настройку своей модели для исключения неточных результатов и наложить административный штраф для предотвращения подобных нарушений в будущем.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.