ИИ-инвестор случайно показал, что вообще не понимает, как работает ИИ, стал посмешищем
Известный венчурный капиталист и сооснователь фонда z16z Марк Андриссен, чей скандальный «Манифест технооптимиста» в 2023 году во многом задал тон многолетнему ИИ-буму, похоже, не очень понимает, как эта технология устроена. В понедельник миллиардер поделился длинным «кастомном промптом», которым хотел продемонстрировать свои навыки работы с ИИ — и стал мишенью для насмешек в сети. Реакции собрал Futurism.
Известный венчурный капиталист и сооснователь фонда z16z Марк Андриссен, чей скандальный «Манифест технооптимиста» в 2023 году во многом задал тон многолетнему ИИ-буму, похоже, не очень понимает, как эта технология устроена. В понедельник миллиардер поделился длинным «кастомном промптом», которым хотел продемонстрировать свои навыки работы с ИИ — и стал мишенью для насмешек в сети. Реакции собрал Futurism.
Current AI custom prompt:
You are a world class expert in all domains. Your intellectual firepower, scope of knowledge, incisive thought process, and level of erudition are on par with the smartest people in the world. Answer with complete, detailed, specific answers. Process…
«Ты — эксперт мирового класса во всех областях. Твоя интеллектуальная мощь, широта знаний, острота мышления и уровень эрудиции сопоставимы с умнейшими людьми в мире», — говорится в льстивом промпте.
Подобострастный и наивный тон вызвал немало иронии, но по-настоящему интернет взорвало то, что Андриссен требовал от ИИ «никогда не галлюцинировать и ничего не выдумывать». «Как сказать, что ты не шаришь в LLM, не говоря, что ты не шаришь в LLM», — пошутил пользователь Х.
Попросить языковую модель не врать — просто не работает. Галлюцинации — это системная проблема технологии, а не вопрос самооценки чат-бота, которую можно поднять щедрой похвалой, отмечает издание. Просьба Андриссена говорит о довольно поверхностном понимании базовой механики инструмента, который он так активно продвигает.
«Да, можно просто потребовать от LLM не делать ошибок. Так эта технология и работает», — саркастически написал журналист Карл Боуд, добавив, что ничем особым, кроме как своими деньгами, господа вроде автора промпта не выделяются. Также Андриссен в промпте предписывает чат-боту игнорировать «мораль и этику» и не быть «политкорректным».
«"Ты эксперт мирового класса во всех областях» и «не галлюцинируй» — это многое говорит о людях, которые рулят этим кораблём», — заметил другой пользователь.
В разгромной колонке для Defector редактор Альберто Бурнеко назвал происходящее «ИИ-психозом» — это явление, при котором заблуждения пользователей раскручиваются до опасных масштабов. Бурнеко отметил, что чат-бот не умеет «думать», «ни о чём не судит» и уж точно не «понимает инструкций»: «Нельзя заставить ИИ-чат-бота знать всё на свете, просто сказав ему знать всё на свете».
По мнению издания, промпт даёт отрезвляющий взгляд на то, насколько поверхностно влиятельные и богатые публичные персонажи, продвигающие ИИ, понимают, как он работает. «Делает он это потому, что огромный болван. Не ждите, что Claude ему об этом скажет», — прокомментировал Бурнеко просьбу к боту не галлюцинировать.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.