Support us

Кошки на луне и клей для пиццы: Google вручную удаляет странные ответы своего ИИ-поисковика

После интеграции ИИ-функций в поисковик Google пользователи начали замечать странные ответы в поисковой выдаче. Компания в спешке удаляет ИИ-обзоры на конкретные поисковые запросы.

Оставить комментарий
Кошки на луне и клей для пиццы: Google вручную удаляет странные ответы своего ИИ-поисковика

После интеграции ИИ-функций в поисковик Google пользователи начали замечать странные ответы в поисковой выдаче. Компания в спешке удаляет ИИ-обзоры на конкретные поисковые запросы.

Google уже несколько месяцев тестирует ИИ-функцию Search Generative Experience. По словам гендиректора Google Сундар Пичаи, с мая прошлого года сервис обработал более миллиарда запросов. За период тестирования удалось на 80% снизить стоимость функции благодаря «аппаратным, инженерным и техническим прорывам».

После того, как новый поисковой инструмент AI Overview стал доступен пользователям США, в соцсетях стали появляться обзоры на ответы ИИ. Например, поисковик предложил использовать клей для закрепления начинки на пицце или съедать по камню в день для удовлетворения потребностей организма в минералах.

Журналист Associated Press спросил Google, были ли когда-нибудь кошки на Луне, и система ответила утвердительно: «Да, астронавты встречали кошек на Луне, играли с ними и заботились о них». ИИ добавил: «Например, Нил Армстронг сказал: «Один маленький шаг для человека», имея в виду кошачий шаг. А еще Базз Олдрин держал кошек на корабле «Аполлон-11».

ИИ-поисковик Google советует приклеивать сыр к пицце и кушать камушки
ИИ-поисковик Google советует приклеивать сыр к пицце и кушать камушки
По теме
ИИ-поисковик Google советует приклеивать сыр к пицце и кушать камушки

Эти примеры — иллюстрация распространенной проблемы «галлюцинаций». Языковые модели, используемые в системах ИИ, могут придумывать информацию, основываясь на данных, на которых они обучались. Эти данные могут содержать предубеждения и ошибки, система будет повторять их и изобретать новые.

Несмотря на критику, компания продолжает настаивать, что поисковик в большинстве случаев предоставляет пользователям «высококачественную информацию». Представитель компании объяснил ошибки «нестандартными запросами», а также обвинил пользователей в публикации фейковых скринов, поскольку сотрудники не смогли воспроизвести эти ответы.

Google признала, что удаляет сгенерированные обзоры по определенным запросам, «где это необходимо в соответствии с нашей политикой в отношении контента». Неудачные ответы ИИ используют при разработке улучшений для поисковика, некоторые из них «уже начали внедряться».

На iPhone появился ИИ-браузер которому можно позвонить
На iPhone появился ИИ-браузер, которому можно позвонить
По теме
На iPhone появился ИИ-браузер, которому можно позвонить

Эксперты по искусственному интеллекту сомневаются, что возможно создать ИИ-сервис с точностью 100%. По мнению профессора Гэри Маркуса, достичь точности в 80% достаточно просто, однако преодолеть последние 20% — чрезвычайно сложная задача. Для этого алгоритмы должны научиться «рассуждать», насколько правдоподобна та или иная информация.

Профессор лингвистики Вашингтонского университета Эмили Бендер ранее предупреждала Google о потенциальных проблемах при использовании языковых моделей. Ученый говорила, что системы ИИ могут усугублять существующий в обществе расизм, сексизм и другие предрассудки и стереотипы.

Другая проблема, связанная с ИИ-поиском, менее заметна. Выдача готовых ответов лишает людей возможности самостоятельного поиска информации. У пользователя нет необходимости посещать множество ресурсов и сопоставлять источники, если ему предлагается готовый ответ. Это приводит к снижению пользовательской активности и потере трафика для владельцев многих сайтов.

Ледяная паника: экс-гуглер рассказал что движет Google в разработке ИИ
Ледяная паника: экс-гуглер рассказал, что движет Google в разработке ИИ 
По теме
Ледяная паника: экс-гуглер рассказал, что движет Google в разработке ИИ
Google и Meta просят контент у Голливуда для обучения ИИ
Google и Meta просят контент у Голливуда для обучения ИИ 
По теме
Google и Meta просят контент у Голливуда для обучения ИИ
Смартфоны выиграли: разработчик ИИ-гаджета AI Pin выставил себя на продажу
Смартфоны выиграли: разработчик ИИ-гаджета AI Pin выставил себя на продажу
По теме
Смартфоны выиграли: разработчик ИИ-гаджета AI Pin выставил себя на продажу
Читайте также
10+ сертификаций Coursera, которые могут изменить вашу карьеру
10+ сертификаций Coursera, которые могут изменить вашу карьеру
10+ сертификаций Coursera, которые могут изменить вашу карьеру
Бюджетный способ прокачать навыки и повысить зарплату — это профессиональный сертификат от Google, IBM или крупного зарубежного университета. На Coursera как раз можно найти десятки полезных обучающих программ по машинному обучению, проджект-менеджменту и не только. Собрали 10+ сертификаций, которые будут выигрышно смотреться в резюме как новичка, так и опытного специалиста.
Дизайн, VR и интернет вещей: 10 доступных онлайн-курсов от Google, Amazon и других гигантов
Дизайн, VR и интернет вещей: 10 доступных онлайн-курсов от Google, Amazon и других гигантов
Дизайн, VR и интернет вещей: 10 доступных онлайн-курсов от Google, Amazon и других гигантов
На платформе Coursera можно найти сотни курсов от крупных корпораций, включая Google, Amazon и HubSpot. Это отличная возможность начать новую карьеру, повысить квалификацию и просто получить плюс в профессиональную карму. Мы собрали 10 программ от ИТ-компаний, которые помогут освоить машинное обучение, UX-дизайн, продакт-менеджмент, кибербезопасность и многое другое.
Google урезает бюджеты, СЕО намекает на сокращения
Google урезает бюджеты, СЕО намекает на сокращения
Google урезает бюджеты, СЕО намекает на сокращения
1 комментарий
Производительность должна измеряться в IT не так, как у других. Наглядный кейс — Google
Производительность должна измеряться в IT не так, как у других. Наглядный кейс — Google
Bubble
Производительность должна измеряться в IT не так, как у других. Наглядный кейс — Google

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.