Новые детали сделки Apple и Google в области ИИ раскрыты, включая изменения в Gemini: отчет
Apple имеет полный доступ к модели Gemini в своих собственных центрах обработки данных. Как сообщил источник, осведомленный об условиях соглашения, Apple может использовать этот доступ для создания более компактных моделей, предназначенных для решения конкретных задач или достаточно небольших для работы непосредственно на устройствах Apple, что позволяет выполнять задачи быстрее. Как поясняет The Information, этот процесс создания новых, производных моделей называется «дистилляцией». Это способ, с помощью которого одна большая языковая модель (LLM) может передавать знания более мелким и оптимизированным моделям. В чем преимущество? Меньшие модели могут быть более эффективными, требовать меньше вычислительной мощности и выдавать результаты быстрее. Как объяснялось выше, их использование непосредственно на устройстве гораздо целесообразнее, чем работа с крупными моделями, которым необходимо находиться в облаке. Поскольку у Apple есть полный доступ к Gemini, ее «дочерняя» модель также может научиться имитировать внутренние вычисления, которые Gemini использует для формирования ответов. Это может быть эффективнее, чем просто копировать готовые ответы. В результате получаются компактные модели, производительность которых приблизительно соответствует передовым «учителям», но для работы которых требуется значительно меньше вычислительных ресурсов. The Information также повторяет ранее озвученную информацию о том, что команда Foundation Models в Apple не отказывается от разработки собственных моделей. Однако текущие цели команды AFM, судя по всему, остаются весьма неясными.