Пользователи подловили нейросеть Gemini на вредном совете
На конференции I/O 2024 компания продемонстрировала возможности обновленной нейросети Gemini, но пользователи опять заметили, что модель дает странные советы.
На конференции I/O 2024 компания продемонстрировала возможности обновленной нейросети Gemini, но пользователи опять заметили, что модель дает странные советы.
В ролике «Поиск в эпоху Gemini» была представлена функция поиска по видео. В качестве примера компания привела ролик с застрявшим рычажком перемотки пленки на фотоаппарате. Нейросети задали вопрос, почему рычажок не движется до конца. ИИ-модель дала несколько советов по исправлению.
ИИ рекомендовал «открыть заднюю крышку и аккуратно снять пленку». Пользователи заметили, что в этом случае на свету пленка испортится и все снимки придут в негодность. Снимать крышку фотоаппарата можно только в темном помещении. Однако нейросеть подсветила этот совет как самый подходящий.
На предыдущей конференции Google в прошлом году чат-бот Bard также ошибся в ответах. Бот сообщил, что первый снимок экзопланеты был получен с помощью телескопа «Джеймс Уэбб». Пользователи выяснили, что это не так. Проблема галлюцинаций — частая уязвимость генеративных нейросетей.
Конференция Google I/O 2024: главное
Конференция Google I/O 2024: главное
Apple и Google добавили в смартфоны дополнительную защиту от слежки
Apple и Google добавили в смартфоны дополнительную защиту от слежки
В приложении для секс-игрушек из Google Play обнаружили трояна-кликера
В приложении для секс-игрушек из Google Play обнаружили трояна-кликера
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.