Apple добавит поддержку платформы CUDA от NVIDIA в свой фреймворк машинного обучения"
Apple MLX получает поддержку CUDA — и это важно.
Вот почему** Фреймворк машинного обучения MLX от Apple, изначально созданный для Apple Silicon, теперь обзаводится бэкендом для CUDA — и это серьезное событие.
Разбираемся, почему.
Разработку ведет программист под ником @zcbenz на GitHub (ссылка).
Бэкенд пока находится в стадии активной доработки, но уже поддерживает несколько ключевых операций, включая матричное умножение, softmax, редукцию, сортировку и индексацию.
По сути, CUDA — это аналог Metal для оборудования NVIDIA: платформа, созданная компанией специально для своих GPU, чтобы максимально эффективно выполнять высокопроизводительные параллельные вычисления.
Для многих CUDA — стандартный способ запуска задач машинного обучения на GPU NVIDIA, и она широко используется в ML-экосистеме: от академических исследований до коммерческих решений.
Такие фреймворки, как PyTorch и TensorFlow, которые уже вышли за пределы узкоспециализированного ML-сообщества, полагаются на CUDA для ускорения вычислений на GPU.
Изначально MLX был оптимизирован для Apple Silicon и Metal, но добавление CUDA меняет ситуацию.
Теперь исследователи и инженеры могут прототипировать модели на CUDA локально на Mac с помощью MLX, а затем развертывать их на крупных кластерах с GPU NVIDIA, которые до сих пор доминируют в обучении ML-моделей.
Впрочем, ограничения пока остаются — многие функции еще в разработке.
Например, реализованы не все операторы MLX, а поддержка GPU AMD появится еще не скоро.
Тем не менее сближение MLX и GPU NVIDIA открывает возможности для более быстрого тестирования, экспериментов и исследований — а это именно то, что хочет услышать любой разработчик в сфере ИИ.
Если хотите попробовать сами, подробности доступны на GitHub.