Вице-президент Google предупредил о «галлюцинациях» у чатботов
Старший вице-президент Google и глава Google Search Прабхакар Рагхаван считает, что людям не следует переоценивать ИИ-чатботов, поскольку они не всегда точны и могут давать некорректные, хотя и убедительные ответы. Об этом заявил немецкому изданию Welt Am Sonntag.
«У этого вида искусственного интеллекта … может иногда возникать явление, которое мы называем галлюцинацией», — отметил он, пояснив, что под этим словом в компании понимают правдоподобные, но полностью оторванные от реальности ответы чатботов.
В прошлый понедельник Google представила аналог ChatGPT домашней разработки. В демо-ролик Bard попал ошибочный ответ о телескопе «Джеймс Уэбб», который стоил компании $100 млрд капитализации. Падению акций способствовали опасения по поводу угрозы, которую ChatGPT представляет для ключевого — рекламного — бизнеса Google.
Рагхаван добавил, что компания понимала необходимость «срочно» выпустить Bard на рынок, но вместе с тем — «большую ответственность», ведь она «не хочет вводить публику в заблуждение».
«Мы ищем способы интеграции этих возможностей в наш поисковый функционал, особенно для запросов, по которым нет только единственного ответа», — рассказал топ-менеджер Welt Am Sonntag.
Читать на dev.by