Meta рассказала о собственном суперкомпьютере AI Research SuperCluster (RSC). Он предназначен для решения задач искусственного интеллекта и уже используется компанией в обработке естественного языка и исследованиях в области машинного зрения. Разработка длилась около двух лет.
Meta рассказала о собственном суперкомпьютере AI Research SuperCluster (RSC). Он предназначен для решения задач искусственного интеллекта и уже используется компанией в обработке естественного языка и исследованиях в области машинного зрения. Разработка длилась около двух лет.
Сейчас суперкомпьютер состоит из 760 систем NVIDIA DGX A100, которые в сумме насчитывают 6080 графических ускорителей. Это сопоставимо с суперкомпьютером Perlmutter, который тоже включает более 6 тысяч таких же GPU от Nvidia и является пятым по мощности в мире, отмечает CNET. Meta собирается достроить свой к середине года, увеличив число графических процессоров в 2,5 раза до 16 тысяч, что сделает его самым быстрым AI-суперкомпьютером в мире. Где он будет располагаться и во сколько обойдётся компании, она не раскрывает.
Meta хочет обучать на нём модели с триллионом и более параметров на датасетах размером эксабайт (1 млрд гигабайт), что эквивалентно 36 тысячам лет видео в высоком качестве. RSC уже в 20 раз быстрее предшествовавшей ему версии 2017 года на задачах распознавания изображений и в три раза быстрее в распознавании речи. В дальнейшем он позволит создавать AI-модели, которые смогут гораздо лучше, чем сейчас, понимать контекст и нюансы окружающего мира и «мыслить», как человек.
Компания сможет применять AI-суперкомпьютер для обучения мультимодальных моделей, которые обрабатывают различные типы вводных (например звук, изображения и видео), что позволит улучшить модерацию и поиск нежелательного контента в соцсетях Meta. Он также пригодится при разработке метавселенной, например для тренировки моделей, которые будут знать сотни языков или смогут создавать AR-приложения.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.