Николай Чикишев 16 мая 2024, 13:45

Пользователи подловили нейросеть Gemini на вредном совете

На конференции I/O 2024 компания продемонстрировала возможности обновленной нейросети Gemini, но пользователи опять заметили, что модель дает странные советы.

Оставить комментарий

Пользователи подловили нейросеть Gemini на вредном совете

На конференции I/O 2024 компания продемонстрировала возможности обновленной нейросети Gemini, но пользователи опять заметили, что модель дает странные советы.

В ролике «Поиск в эпоху Gemini» была представлена функция поиска по видео. В качестве примера компания привела ролик с застрявшим рычажком перемотки пленки на фотоаппарате. Нейросети задали вопрос, почему рычажок не движется до конца. ИИ-модель дала несколько советов по исправлению.

ИИ рекомендовал «открыть заднюю крышку и аккуратно снять пленку». Пользователи заметили, что в этом случае на свету пленка испортится и все снимки придут в негодность. Снимать крышку фотоаппарата можно только в темном помещении. Однако нейросеть подсветила этот совет как самый подходящий.

На предыдущей конференции Google в прошлом году чат-бот Bard также ошибся в ответах. Бот сообщил, что первый снимок экзопланеты был получен с помощью телескопа «Джеймс Уэбб». Пользователи выяснили, что это не так. Проблема галлюцинаций — частая уязвимость генеративных нейросетей.