«Позор» и «патологический лжец»: сотрудники Google критиковали чатбот Bard за опасные ответы

Один из сотрудников сказал, что чатбот вызывает у него чувство стыда, а другой назвал Bard «патологическим лжецом». Сотрудники обнаружили, что его ответы даже могут быть опасны для пользователей. Кто-то из них спросил Bard, как посадить самолёт — советы, которые тот выдал, привели бы к крушению. А ещё одному сотруднику, который интересовался дайвингом, насоветовал так, что, послушав его, можно было бы «получить серьёзные травмы или погибнуть».

«Бард хуже бесполезного: пожалуйста, не запускайте его», — призвал компанию один из сотрудников во внутреннем сообщении в феврале. Его просмотрело около 7 тысяч человек.

По рассказу тестировщиков, задачей которых было проверять ответы чатбота на безвредность и этичность, компания настаивала на том, чтобы они не пытались затормозить релиз. Это било по их моральному духу.

Они считают, что Google стремилась как можно скорее выкатить конкурента OpenAI в ущерб этике ИИ. Bard вышел в люди несмотря на тревогу сотрудников. В промо-ролике в его ответе была допущена фактологическая ошибка, которая стоила Alphabet многих миллиардов капитализации. Бета-версия Bard была выпущена спустя месяц после презентации. Она тоже не впечатлила пользователей: его обвинили в распространении лжи, плагиате и неумении считать.