Сегодня компания Meta объявила о запуске Muse Spark Open, назвав её «самой мощной американской моделью с открытым кодом на сегодняшний день». Для пользователей Mac этот продукт представляет особый интерес, поскольку Meta специально оптимизировала его для работы на мощном Mac Studio с чипом M5 Ultra. Новая модель предлагает уникальное сочетание вычислительной мощности и приватности, позволяя пользователям запускать сложные нейросети прямо на своих компьютерах, не обращаясь к облачным сервисам. Это знаменует собой важный шаг в развитии локального искусственного интеллекта, доступного, как профессиональным разработчикам, так и энтузиастам. Ключевой особенностью Muse Spark Open является её нативная мультимодальность и масштаб. В блоге разработчиков отмечается, что модель содержит 816 миллиардов параметров и имеет контекстное окно в один миллион токенов, что позволяет ей обрабатывать огромные объемы текста одновременно. Созданная для работы с кодом и выполнения агентных задач, она демонстрирует превосходные результаты при решении сложных задач программирования, многошагового логического вывода и задач с длительной перспективой. Для обычных пользователей это означает, что модель способна понимать контекст и инструкции на гораздо более глубоком уровне, чем предыдущие версии, открывая возможности для создания автономных цифровых помощников прямо на собственном компьютере. Оптимизация этой огромной модели стала возможной благодаря использованию новейшей версии фреймворка MLX от Apple, созданного специально для работы с их оборудованием. Apple объединила архитектуру единой памяти с чипом M5 Ultra, что позволило интегрированной графике использовать до 512 ГБ оперативной памяти в одном Mac Studio. Благодаря высокой пропускной способности памяти (1,2 терабайта в секунду) и возможности объединить две машины с таким объемом памяти, Meta утверждает, что это «лучший способ» запускать мощную модель прямо на рабочем столе. Это устраняет ограничения облачных сервисов, где пользователи вынуждены доверять свои данные сторонним серверам. Практическое применение функций Muse Spark Open было продемонстрировано в тестах агентных рабочих процессов, выполнявшихся полностью на устройстве. Используя Muse Code, основанный на Muse Spark Open, исследователи смогли вносить реальные изменения в код iOS для проекта Ice Cubes, демонстрируя реальную мощь локального ИИ. Такие возможности позволяют разработчикам автоматизировать рутинные задачи, отлаживать сложный код и управлять проектами прямо из терминала, не опасаясь утечки конфиденциальной информации. Apple также подчеркивает, что MLX на Mac позволяет исследователям и разработчикам экспериментировать с новыми моделями и методами в изолированной и приватной среде. Подводя итог, выход Muse Spark Open укрепляет позиции Mac Studio, как главной платформы для локального ИИ в потребительском сегменте. Сочетание невероятной вычислительной мощности M5 Ultra и оптимизированного программного обеспечения MLX создает экосистему, где сложные задачи выполняются мгновенно и конфиденциально. Для пользователей это означает переход от использования ИИ, как сервиса к владению собственным мощным вычислительным центром, который находится под полным их контролем. Это событие открывает новые горизонты для разработки приложений и повышает планку ожиданий от локальных вычислений в целом.