На этой неделе Meta AI представила свои новые чипы для обучения искусственного интеллекта и ускорения вывода следующего поколения. Поскольку спрос на сложные модели искусственного интеллекта стремительно растет во всех отраслях, предприятиям потребуется мощная и надежная ИТ-инфраструктура, чтобы идти в ногу со временем. Meta Accelerator может стать ответом, предоставляя корпоративным приложениям инструменты для легкого решения самых сложных задач искусственного интеллекта. Эта инновационная технология, более чем в два раза превышающая вычислительную мощность и пропускную способность памяти своей предшественницы, предназначена для оптимизации моделей ранжирования и рекомендаций, гарантируя, что вы сможете доставлять пользователям персонализированный высококачественный контент с головокружительной скоростью.
В прошлом году Meta представила Meta Training and Inference Accelerator (MTIA) v1, свой ускоритель вывода искусственного интеллекта первого поколения, который мы разработали собственными силами с учетом рабочих нагрузок искусственного интеллекта Meta, в частности, моделей рекомендаций глубокого обучения Meta, которые улучшают различные процессы в различных средах. продуктовая линейка компании.
Основные уроки
- Meta поделилась подробностями о следующем поколении Meta Training and Inference Accelerator (MTIA), семействе специализированных чипов, предназначенных для рабочих нагрузок ИИ Meta.
- Эта последняя версия имеет значительные улучшения производительности по сравнению с MTIA v1 и помогает улучшить модели ранжирования и рекомендательной рекламы Meta.
- MTIA является частью растущих инвестиций Meta в нашу инфраструктуру искусственного интеллекта и дополнит нашу существующую и будущую инфраструктуру искусственного интеллекта, чтобы предоставлять новые и лучшие возможности для своих продуктов и услуг.
Влияние ускорителя искусственного интеллекта следующего поколения Meta выходит далеко за рамки теоретических возможностей. Исследуя огромный потенциал этой технологии, вы обнаружите, что она уже находит применение в реальных приложениях. Развернутый в центрах обработки данных по всему миру, ускоритель приводит в действие готовые к производству модели, демонстрируя свою способность отвечать требованиям современного мира, управляемого искусственным интеллектом.
Хотя детали ценообразования остаются конфиденциальными, важность этого нововведения невозможно переоценить. Приверженность Meta к расширению границ вычислений с использованием искусственного интеллекта очевидна в доступности ускорителя и готовности к развертыванию. Отправляясь в свое собственное путешествие по искусственному интеллекту, вы можете быть уверены, что технологии Meta будут поддерживать вас на каждом этапе пути.
Глубокое погружение в характеристики
Чтобы по-настоящему оценить возможности ускорителя искусственного интеллекта следующего поколения Meta, необходимо изучить его впечатляющие характеристики:
- Передовая технология: создан на основе 5-нм техпроцесса TSMC, обеспечивающего оптимальную производительность и эффективность.
- Впечатляющая частота: работая на частоте 1,35 ГГц, она обеспечивает молниеносную скорость вычислений.
- Надежные экземпляры: благодаря 2,35 миллиардам вентилей и 103 миллионам флопов они предоставляют достаточные ресурсы для сложных моделей искусственного интеллекта.
- Компактный дизайн: размеры всего 25,6 x 16,4 мм и общая площадь поверхности 421 мм2 идеально подходят для помещений с ограниченным пространством.
- Эффективная упаковка. Размещенный в корпусе размером 50 x 40 мм, он обеспечивает оптимальное управление температурой и надежность.
- Работа при низком напряжении: работая при напряжении 0,85 В, минимизируется энергопотребление без ущерба для производительности.
- Номинальная тепловая мощность (TDP): 90 Вт для идеального баланса между производительностью и энергоэффективностью.
- Высокоскоростное подключение к хосту: оснащено 8 разъемами PCIe Gen5, обеспечивающими пропускную способность 32 ГБ/с для бесперебойной передачи данных.
- Непревзойденная производительность GEMM TOPS: до 708 терафлопс/с (INT8) с разреженностью, обеспечивающая молниеносное умножение матриц.
- Впечатляющие показатели SIMD TOP: производительность до 11,06 терафлопс/с (INT8), что обеспечивает эффективные векторные операции.
- Расширенный объем памяти: 384 КБ локальной памяти на каждый PE, 256 МБ встроенной памяти и 128 ГБ внешней памяти LPDDR5 обеспечивают более чем достаточно места для хранения самых требовательных моделей искусственного интеллекта.
- Исключительная пропускная способность памяти: 1 ТБ/с локальной памяти на каждый PE, 2,7 ТБ/с встроенной и 204,8 ГБ/с внешней памяти LPDDR5, что обеспечивает быстрый доступ к данным и их обработку.
Примите революцию искусственного интеллекта
Ускоритель Meta следующего поколения — это ваш путь к безграничным возможностям и только начало захватывающего путешествия, которое изменит отрасли и переопределит способы нашего взаимодействия с машинами. От генеративного искусственного интеллекта до передовых исследований — возможности применения этого ускорителя безграничны. Непоколебимое стремление Meta расширять границы вычислений с использованием искусственного интеллекта с помощью специального процессора, пропускной способности памяти и сетевых возможностей гарантирует, что у вас всегда будет доступ к инструментам и самым передовым ресурсам.
Читать далее Руководство:
- Локальный запуск Llama 2 на компьютерах Apple M3 Silicon Mac
- Полный обзор мероприятия Intel AI Everywhere
- Самый быстрый в мире ИИ-чип содержит 4 триллиона транзисторов и 900 000 ИИ-ядер.
- Чип DEEPX DX-M1, разработанный для приложений Object AI
- Новый Apple MacBook Pro M3 14 дюймов от 1
- Meta располагает мощными графическими процессорами NVIDIA для разработки AGI
