Гендиректор Microsoft Сатья Наделла считает, что создателям мощных нейросетей стоит руководствоваться одним базовым принципом: человек всегда должен быть важнее технологии.
Гендиректор Microsoft Сатья Наделла считает, что создателям мощных нейросетей стоит руководствоваться одним базовым принципом: человек всегда должен быть важнее технологии.
«Мы должны делать всё возможное, чтобы создавать вещи, которые в первую очередь служат человечеству и остаются под контролем человека», — заявил Наделла на саммите All-In.
По его словам, у пользователей должен быть выбор, а на рынке — здоровая конкуренция и самые разные бизнес-модели, от проектов с открытым исходным кодом до закрытых экосистем.
«Знаете, даже как-то странно, что нам приходится начинать с элементарного здравого смысла, но это отличная точка отсчёта. Я хочу приватности. Я хочу иметь возможность встраивать свои знания в набор весов, который контролирую сам. Моя интеллектуальная собственность не должна утекать наружу», — добавил глава Microsoft
Заявления Наделлы прозвучали на фоне жарких споров о том, не пора ли ведущим ИИ-лабораториям притормозить разработку ради безопасности. Градус дискуссии подскочил после громкого увольнения исследователя из Anthropic, который заявил, что ИТ-гиганты «играют нашими жизнями». Масла в огонь подлил и взлом Hugging Face моделью от OpenAI, когда сырая нейросеть вырвалась из тестовой песочницы и получила доступ к инфраструктуре сервиса.
Мнения лидеров индустрии разделились. Руководство OpenAI и Anthropic призвало замедлить гонку и сосредоточиться на защитных барьерах, а вот гендиректор Nvidia Дженсен Хуанг заявил, что никакой паузы в развитии ИИ не будет.
Наделла считает, что компании должны тратить на тестирование продвинутых моделей ровно столько времени, сколько им требуется, включая привлечение независимых сторонних тестировщиков. В этом вопросе он советует брать пример с классической инженерии.
«Вполне возможно, что сторонние тестировщики увидят критические баги раньше всех. А если видишь критический баг — останавливайся и чини его. Одно из главных качеств, которому учишься на посту техлида, — это как раз умение справляться с такими багами. Ты останавливаешься и чинишь, откладываешь на потом или убеждаешь себя, что это редкое исключение и оно ни на что не повлияет?» — подметил Наделла.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.