Главный специалист Anthropic по обучению ИИ Кристен Суонсон говорит, что лучше всего нейросетями пользуются не те, кто спихивает на них вообще каждую задачу. Самых продвинутых пользователей отличает понимание, когда к технологии лучше не прикасаться и сделать всё своими руками. По словам Суонсон, минимум половину времени она объясняет людям, в каких ситуациях от моделей больше вреда, чем пользы.
Главный специалист Anthropic по обучению ИИ Кристен Суонсон говорит, что лучше всего нейросетями пользуются не те, кто спихивает на них вообще каждую задачу. Самых продвинутых пользователей отличает понимание, когда к технологии лучше не прикасаться и сделать всё своими руками. По словам Суонсон, минимум половину времени она объясняет людям, в каких ситуациях от моделей больше вреда, чем пользы.
Одна из главных ловушек — поручать нейросети задачи, в которых вы и сами отлично разбираетесь. Например, набросать пост для соцсетей на знакомую тему. В итоге вы сталкиваетесь с тем, что Суонсон называет «налогом на проверку» (discernment tax) — когда вычитка, отсеивание воды и редактирование сгенерированного текста отбирают куда больше времени и сил, чем спокойное написание с нуля. Адекватно оценить и отфильтровать то, что выдал ИИ, — это тяжелейшая умственная работа, которая выматывает мозг сильнее самой задачи, подчёркивает эксперт. Зато для рутины вроде первичного анализа больших массивов данных нейросети подходят идеально.
Кроме того, слепое доверие моделям банально опасно из-за галлюцинаций. Если попросить ИИ найти информацию по узкой теме или отрецензировать редкую научную статью, которой не было в его обучающей выборке, он с высокой вероятностью просто выдумает факты. Из-за этого даже работодатели начинают строить жёсткие границы. Например, глава сервиса Spellbook Скотт Стивенсон попросил сотрудников приносить ему черновики идей «на троечку», но написанные исключительно собственной головой. Ему важнее видеть логику команды, чем продираться сквозь раздутые, вылизанные нейросетью отчёты.
При этом грань между тем, что стоит делать самому, а что стоит отдать технологии, постоянно сдвигается. Здесь важно не попасть в ловушку «застрявшего восприятия» (capability overhang), когда представления об ИИ замораживаются на уровне прошлых версий. То, с чем модель не справлялась полгода назад, свежий релиз может делать «на ура». Поэтому опытные пользователи регулярно перепроверяют возможности свежих моделей на сложных задачах. Главное — постоянно экспериментировать и учиться на ошибках, ведь умение вовремя выключить нейросеть куда ценнее, чем заучивание сотни хитрых промптов.
«Больше ИИ — не значит лучше. И постоянное использование нейросетей вовсе не означает, что вы умеете с ними работать», — подводит итог Суонсон.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.