Cайт программиста Ruby, веб-разработчика Ruby on Rails ESV Corp. Екатеринбург, Москва, Санкт-Петербург, Новосибирск, Первоуральск

Искусственный интеллект на 30 млрд параметров теперь помещается в смартфоне

Большим языковым моделям больше не обязательно обращаться к удалённым серверам. Qualcomm представила флагманские процессоры Snapdragon 8 Elite Gen 6 и Snapdragon 8 Elite Extreme Gen 6, старший из которых способен локально запускать ИИ-модели с 30 млрд параметров.

Речь идёт о моделях с архитектурой «смесь экспертов». Общее число обученных коэффициентов достигает 30 млрд, однако для выполнения конкретного запроса система задействует лишь подходящую часть. Разработчики сокращают нагрузку на память и процессор, сохраняя возможности крупной модели. Смартфон благодаря подобному подходу может выполнять сложные задачи без постоянной передачи запросов в облако.

Qualcomm рассчитывает превратить мобильный искусственный интеллект (ИИ) из чат-бота в персонального помощника, который учитывает привычки владельца, запоминает контекст и выполняет последовательности действий в разных приложениях. Энергоэффективный сенсорный блок поддерживает небольшие модели размером до 200 млн параметров, расшифровывает речь, различает собеседников и формирует локальную базу знаний о предпочтениях пользователя. Отдельный помощник Personal Scribe сможет непрерывно обрабатывать голосовые заметки прямо на устройстве.

Количество параметров само по себе не показывает качество или скорость модели. Архитектура, объём активной памяти, степень сжатия и программная оптимизация влияют на работу не меньше. Для сравнения, Apple использует в своей наиболее мощной локальной модели 20 млрд параметров, но в зависимости от запроса активирует от одного до четырёх миллиардов.

Обе платформы выпускаются по двухнанометровому техпроцессу и получили восьмиядерный процессор Oryon с двумя старшими ядрами, работающими на частоте до пяти ГГц, и шестью производительными ядрами до четырёх ГГц. Qualcomm называет новинки первыми мобильными процессорами, преодолевшими отметку в пять ГГц. Snapdragon 8 Elite Extreme Gen 6 опережает прошлое поколение по производительности центрального процессора на 13%, графики на 44%, а нейронного блока Hexagon на 35%. Энергоэффективность графики выросла на 40%, а нейронного блока на 33%. Показатели основаны на внутренних испытаниях Qualcomm и могут меняться в зависимости от устройства.

Старшая платформа получила на 50% больше общей памяти для нейронного блока, а графический ускоритель дополнили матричными ядрами. Технология Adreno Neural Fusion использует ИИ для повышения разрешения, создания промежуточных кадров и восстановления деталей в играх, снижая нагрузку на графику. Базовый Snapdragon 8 Elite Gen 6 лишён матричных ядер и отдельной высокоскоростной памяти Adreno, поэтому разница между чипами особенно заметна в играх и локальных ИИ-задачах.

Snapdragon 8 Elite Extreme Gen 6 также поддерживает запись видео 8K с частотой 60 кадров в секунду и замедленную съёмку 4K при 240 кадрах в секунду. Система обработки изображений анализирует отдельные объекты в кадре, удерживает фокус при движении и подавляет ореолы вокруг ярких деталей. Звуковые алгоритмы усиливают голос, убирают фоновый шум и позволяют разделять компоненты уже записанной аудиодорожки.

За связь отвечает модем Snapdragon X105 с максимальной скоростью загрузки 14,8 Гбит/с и поддержкой спутниковых сетей. Беспроводной модуль FastConnect 8800 рассчитан на Wi-Fi 8 со скоростью до 11,6 Гбит/с, Bluetooth 6.0, сверхширокополосную связь и протокол Thread.

Первым подтверждённым смартфоном на Snapdragon 8 Elite Extreme Gen 6 стал Motorola Signature 27, продажи которого должны начаться в 2026 году. Новые процессоры также появятся во флагманах Honor, iQOO, OnePlus, Oppo, Redmi, RedMagic, Vivo и Xiaomi. Конкретный набор функций определят производители устройств и разработчики приложений, поскольку аппаратная поддержка локального ИИ не гарантирует автоматического появления всех заявленных возможностей в каждом смартфоне.

SecurityLab