Сделать ИИ-агентов «умными»? Кое-чему их научить ещё сложнее

В одном из недавних выпусков подкаста Goldman Sachs Exchanges он отметил, что компании должны придумать, как заложить в ИИ-агентов свои ценности и принципы управления — подобно тому, как их усваивают обычные сотрудники.

По словам Аргенти, в ИТ-индустрии внимание в основном уделяется «специализации экспертизы», а вот о «совершенствовании культурных аспектов агентов», что чрезвычайно важно для управления ИИ-сотрудниками, речь почти не идёт.

Аргенти сравнил это с онбордингом новых сотрудников и предупредил, что без должной культурной подготовки ИИ-агенты будут упускать нюансы, определяющие идентичность компании. ИИ может стать умнее со временем, но не сможет сам по себе впитывать культуру той или иной компании. Компании должны объяснить свою сущность ИИ, чтобы ИИ смотрел на работу через их призму и говорил их языком. К примеру, ИИ-агент, резюмирующий анализ портфеля для управления инвестициями в Goldman Sachs, должен интерпретировать информацию в соответствии с подходами этого банка. В заключение Аргенти отметил, что культурное обучение агентов — задача сложная, и пока она не решена.

Агенты — помощники человека для самых разных сфер от медицины до кибербезопасности — одна из горячо обсуждаемых тем в мире ИИ. О наступлении эры ИИ-агентов в январе говорил СЕО Nvidia Дженсен Хуанг, а глава OpenAI Сэм Альтман недавно прогнозировал, что первые ИИ-агенты включатся в работу уже в этом году.