ИИ-подразделение Google DeepMind объявило о создании новой команды AI Safety and Alignment, которая сосредоточится на безопасности вокруг искусственного общего интеллекта (AGI).
ИИ-подразделение Google DeepMind объявило о создании новой команды AI Safety and Alignment, которая сосредоточится на безопасности вокруг искусственного общего интеллекта (AGI).
Команда будет работать над созданием мер защиты для моделей Google Gemini: предотвращением галлюцинаций и дезинформации, а также обеспечением безопасности детей. Новую организацию возглавит Анка Драган, бывший научный сотрудник Waymo и профессор информатики Калифорнийского университета в Беркли.
AI Safety and Alignment будет работать вместе с существующей исследовательской группой DeepMind в Лондоне, которая уже занимается вопросами безопасности ИИ, Scalable Alignment. Таким образом, Google создала две параллельные структуры специалистов. Ранее в июле прошлого года подобная команда Superalignment появилась у OpenAI.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.