Пользователи подловили нейросеть Gemini на вредном совете

В ролике «Поиск в эпоху Gemini» была представлена функция поиска по видео. В качестве примера компания привела ролик с застрявшим рычажком перемотки пленки на фотоаппарате. Нейросети задали вопрос, почему рычажок не движется до конца. ИИ-модель дала несколько советов по исправлению.

ИИ рекомендовал «открыть заднюю крышку и аккуратно снять пленку». Пользователи заметили, что в этом случае на свету пленка испортится и все снимки придут в негодность. Снимать крышку фотоаппарата можно только в темном помещении. Однако нейросеть подсветила этот совет как самый подходящий.

На предыдущей конференции Google в прошлом году чат-бот Bard также ошибся в ответах. Бот сообщил, что первый снимок экзопланеты был получен с помощью телескопа «Джеймс Уэбб». Пользователи выяснили, что это не так. Проблема галлюцинаций — частая уязвимость генеративных нейросетей.