22 августа 2024, 12:20

Google создала ИИ-редактор фото, который слишком хорош — и этим пугает

В новом смартфоне Pixel 9 появился ИИ-редактор Reimagine, который значительно упрощает редактирование фотографий и делает это на пугающе реалистичном уровне.

Оставить комментарий

Google создала ИИ-редактор фото, который слишком хорош — и этим пугает

В новом смартфоне Pixel 9 появился ИИ-редактор Reimagine, который значительно упрощает редактирование фотографий и делает это на пугающе реалистичном уровне.

Новый инструмент — развитие функции Magic Editor, он позволяет изменять фон, добавлять объекты на фото с помощью текстовых подсказок. По словам журналистов The Verge, результаты выглядят очень убедительно при правильно подобранном освещении, тенях и перспективе.

Тестирование показало, что Reimagine можно использовать для генерации тревожного контента: в редакторе несложно обойти ограничения на создание сцен насилия и добавление запрещенных предметов. Например, журналисты смогли сгенерировать множество изображений аварий с шокирующим контентом.

«За неделю тестирования мы добавили к изображениям обломки автомобилей, дымящиеся бомбы в общественных местах, простыни, которые, кажется, покрывают окровавленные трупы, и приспособления для употребления наркотиков. Все это кажется плохим. Напоминаем, что это не какая-то специализированная программа, которую мы специально использовали — все это встроено в телефон, который мой отец мог бы зайти в Verizon и купить», — отметили журналисты издания.