Минмин из храма Аофэй Кубиты | Публичный аккаунт QbitAI

Самый мощный терминальный чип с генеративным искусственным интеллектом теперь перешел из рук в руки!

Тяньцзи9300Поддержка максимального запуска одним махом33 миллиардаБольшие параметры Модель,Всего за несколько недель он побил отраслевой рекорд.

Это первый в отрасли аппаратный механизм генерации искусственного интеллекта.,Впервые внедряем интеграцию L‍oRA на стороне устройства.,Сделайте навыки больших моделей локально масштабируемыми,Создавайте эксклюзивные смайлы на основе индивидуальных фотографий.

открыть камеру,может генерировать в реальном временииндивидуальныйвиртуальный цифровой двойник。

Также поддерживаетсяФотография Винсента за 1 секунду、20 токенов в секунду для генерации текста（7 миллиардовпараметр）。‍

И выиграл «Производительность мобильного искусственного интеллекта № 1 в отрасли».,Результат работы искусственного интеллекта устройства достиг ужасающих 3173（На данный момент лучшими опубликованными результатами в отрасли являются2000+）.

Неожиданно первый мобильный чип MediaTek с генеративным искусственным интеллектом обладает такой высокой производительностью.

плюс первое усыновлениеПолная архитектура процессора с большим количеством ядер,Dimensity 9300 действительно изнашивает зубную пасту,Пиковая производительность на 40 % выше, чем у предыдущего поколения.,Энергопотребление экономится на 33%.

Когда пользователи сети увидели это, они все воскликнули: «Брат Фа, всё стабильно!»

Флагманский смартфон Vivo с Dimensity 9300 серия Х100,скоро увидимся。

Если вы хотите попробовать что-то новое, это действительно стоит с нетерпением ждать.

Потому что это флагманский мобильный чип, который начинается снизу и полностью предназначен для генеративного ИИ.

С его помощью вы не только сможете на собственном опыте убедиться, насколько плавно играть с большими моделями на устройстве, но также сможете заранее просмотреть и почувствовать, с какими яростными искрами столкнутся волна ИИ и мобильные терминалы;

Мобильный телефон генерирует виртуальный аватар в режиме реального времени

Какой инновационный опыт он может принести в качестве мобильного чипа с генеративным искусственным интеллектом?

Давайте сначала взглянем на Dimensity 9300, который обладает следующими возможностями:

• Поддержка большой модели
• Быстрое создание текста и изображений
• Расширение возможностей на стороне клиента, индивидуальный эксклюзивный пакет смайлов в формате GIF.
• Видео в реальном времени: индивидуальный клон человека
• Генеративное сверхвысокое разрешение, антибликовое покрытие для ночной съемки
• Семантический поиск

самый простой,ГенеративныйAIчип ИметьКлиентская поддержка для больших моделейспособность。

Dimensity 9300 поддерживает работу терминала на 1 миллиард、7 миллиардов、13 миллиардов、До 33 миллиардов параметровAIбольшой Модель。

Благодаря тесному сотрудничеству с vivo,Основанный на Dimensity 9300, он первым реализует большую языковую модель с 7 миллиардами параметров на верхней стороне флагманского сотового телефона vivo.,Первый в отрасли。

В то же время он также преодолел верхний предел отрасли.,иvivoвместе Сквозная операциябольшой МодельшкалаУвеличено до 13 миллиардов параметров.。

Учитывая возможность запуска, он идет на шаг дальше и требует быстрой обработки.

Dimensity 9300 имеет возможность быстро генерировать текст и изображения.

В рамках модели с 7 миллиардами параметров он может достигать вывода 20 токенов в секунду и поддерживать текстовые задачи, такие как создание текста и генерация сводки.

Время генерации каждой картинки контролируется в пределах 1 секунды.

Это означаетПочти нет ожидания,Вы можете получить его прямо сейчас в сотовом Получите последние результаты, полученные с помощью искусственного интеллекта, на телефоне.

Вот почему Dimensity 9300 может занять первое место в отрасли по производительности мобильного искусственного интеллекта, ETHZ AI Benchmark v5.1 Mobile SoC >2000 точка.

Более инновационный опыт возникает благодаря расширению навыков на стороне клиента, что поддерживает локальное создание разнообразного персонализированного контента.

Это также первый случай, когда мобильный чип реализует конечный LoRA.。

На основе этого вы можете сделать фотографию и обработать ее локально на своем телефоне в различных стилях для создания персонального пакета смайлов.

Вы должны знать, что знания и возможности больших базовых моделей относительно ограничены. Если вы хотите сделать большие модели более продуктивными, вам часто требуется тонкая настройка больших моделей с помощью SFT, LoRA и других методов. В этом году рисование с использованием искусственного интеллекта неоднократно вызывало волну увлечений различными стилями рисования. Во многом это связано с методом LoRA.

Торцевая поддержка Dimensity 9300,Может сделать LoRA более удобным,Можно продвигать большие модели для достижения более насыщенного игрового процесса на мобильных телефонах.。

Кроме того, в видео можно импортировать генеративные приложения искусственного интеллекта, чтобы в реальном времени создавать персональные виртуальные аватары для видеозвонков. ‍

В некоторых существующих приложениях ИИ также реализовано больше инноваций на основе генеративного ИИ.

Например, алгоритм сверхвысокого разрешения, используемый для улучшения качества изображения и графики в играх, может обеспечить лучшее улучшение качества изображения за счет использования генеративных возможностей;

Ночная съемка может предотвратить блики;

Помимо генеративного семантического поиска с использованием искусственного интеллекта, он может интеллектуально извлекать изображения альбомов без подключения к Интернету и выполнять вычисления на стороне устройства для лучшей защиты конфиденциальности.

Короче говоря, благодаря возможностям Dimensity 9300 мы можем почувствовать, что MediaTek считает, что квалифицированный мобильный чип с генеративным искусственным интеллектом должен быть в состоянии максимально реализовать возможности больших моделей на конечной стороне.

Необходимо не только разместить более крупные модели, но и позволить крупным моделям расширять свои возможности на стороне устройства, тем самым создавая более богатые приложения.

Итак, как MediaTek это сделал?

APU седьмого поколения + полнофункциональная база

Логика улучшения возможностей Dimensity 9300, мобильного чипа для генеративного искусственного интеллекта, проста и груба:

Производительность ИИ является полной, а базовые возможности надежны.

В частности, его можно найти изAPUиобщая архитектурадваиндивидуальныйточка зрения。

APU в основном отвечает за обеспечение быстрой конечной работы больших моделей.

Тяньцзи9300интегрированныйAI-процессор MedieTek седьмого поколения APU 790,Целочисленные операциии Производительность операций с плавающей запятой такая же, как и в предыдущем поколении.из2x,При этом снижается энергопотребление45%。

Чтобы позволить стороне терминала поддерживать модель большего масштаба,это приносит уникальныеТехнология аппаратного сжатия памяти（NeuroPilot Compression）。

Знаете, огромные объемы данных больших моделей не только обеспечивают максимальную производительность, но и приводят к огромному использованию памяти. Вот почему так сложно довести до конца большие модели.

MediaTek впервые использовала квантование INT4 для сжатия большой модели с 13 миллиардами параметров до 13 ГБ.

Затем, на основе аппаратного сжатия памяти, память объемом 13 ГБ дополнительно сжимается до 5 ГБ, а использование памяти снижается на 61%.

Таким образом, телефон с 16 ГБ памяти может запускать большую модель с 13 миллиардами параметров, а мобильный телефон с 24 ГБ памяти может запускать большую модель с 33 миллиардами параметров.

Однако в MediaTek недостаточно разместить большие модели: большие модели должны иметь более широкие возможности.

Это выдвигает на первый планГенеративная технология «расширения навыков» конечной стороны искусственного интеллекта（NeuroPilot Fusion）。

Это напрямую решает проблему, заключающуюся в том, что терминал не может хранить слишком много больших моделей, и реализует одну большую модель в качестве базовой и N навыков в качестве расширений.

Это не только решает проблему нехватки памяти в больших моделях, но и максимально расширяет границы применения генеративного искусственного интеллекта на мобильных телефонах.

Чтобы обеспечить более плавную работу больших моделей на терминале, Dimensity 9300 был дополнительно оптимизирован на нижнем уровне.

С одной стороны, Dimensity 9300 — это первый в отрасли аппаратный механизм искусственного интеллекта.。

Он глубоко адаптирован к модели Transformer, особенно к оператору Softmax+LayerNorm, а скорость обработки увеличена в 8 раз по сравнению с предыдущим поколением.

Оператор Softmax+LayerNorm является основной частью текущей модели большого языка (сети Transformer).

с другой стороны,Тяньцзи9300Революционное внедрение Полная архитектура процессора с большим количеством ядер,Значительно улучшите вычислительную мощность снизу вверх.

он содержит4 индивидуальный Cortex-X4догонятьбольшойядерный,Максимальная частота до 3,25 ГГц,а также4индивидуальныйCortex-A720 с тактовой частотой 2,0 ГГцбольшойядерный,Его пиковая производительность улучшена по сравнению с предыдущим поколением.40%,Экономия энергии33%。

Коэффициент энергоэффективности одного большого ядра E превышает аналогичный показатель традиционного ядра АрхитектураB и ядра L.

Полныйбольшойядерный АрхитектураКомплексное использование ядер, вышедших из строя。

В отличие от традиционной логики, которая должна выполняться небольшими ядрами последовательно, большие основные операции позволяют задачам начать выполнение, как только они поступят и могут быть обработаны.

Это может значительно сократить общее время, затрачиваемое на выполнение задачи.,Повысьте эффективность выполнения приложений и уменьшите задержки. Это также может снизить энергопотребление,Сравните две картинки ниже,большойядерный运算“Работай быстро, отдыхай быстро”,Интеграл рабочей кривой меньше,Прямо сейчасНизкое энергопотребление。

Эти возможности могут обеспечить надежную базовую вычислительную базу для выполнения чипом генеративных задач ИИ.

Наконец, на стороне устройства работает генеративный искусственный интеллект, и здесь еще предстоит рассмотреть множество деталей.

Например, в плане взаимодействия,В настоящее время Da Model выглядит скорее как умный помощник.,Голос – один из важных способов взаимодействия,такDimensity 9300 специально улучшает возможности шумоподавления,Поддерживает шумоподавление для динамической записи 3-х индивидуальных микрофонов.,Может эффективно фильтровать шум ветра и другие звуки окружающей среды.,Это не только улучшает видеосъемку и запись,,Это также может помочь повысить точность распознавания речи.

Также в пользовательском дополнительном фокусе Аспекты безопасности данных,Dimensity 9300 оснащен двойными чипами безопасности,Защитите личную конфиденциальность от источника,Также имеет физически изолированную вычислительную среду.,В дальнейшем обеспечить безопасность шифрования и дешифрования персональных данных. и технология Память Markup Extension (MTE),Может создать более безопасную среду разработки.

Оптимизация, инновации и внимание ко многим аспектам, упомянутым выше, сделали Dimensity 9300 мобильным чипом, достойным названия генеративного искусственного интеллекта.

Помимо улучшения производительности собственного оборудования,,MediaTek также расширила экосистему крупных моделей.。

поддерживатьMeta LLaMA 2、Большая модель Baidu Wenxin Yiyan、Большая модель БайчуаняВ ожидании передового мейнстримаAIбольшой Модель,и мультимодальная большая Модель.

Что касается приложений, мы сотрудничаем с Douyin, Kuaishou, Huya, iQiyi, Meitu Xiuxiu и т. д., чтобы предоставить соответствующие SDK и центры моделей.

Что касается экологии разработчиков, Центр разработчиков Dimensity предоставит универсальные ресурсы для внедрения генеративного искусственного интеллекта на конечной стороне и обеспечит совместное использование вариантов развертывания на конечной стороне. В настоящее время существует более 20 партнеров по генеративному ИИ.

Одним словом, MediaTek будет использовать свой флагманский чип Dimensity 9300, чтобы официально открыть двери для генеративного искусственного интеллекта.

Результат этого воздействия привнесет новое дыхание во всю индустрию изнутри MediaTek и в дальнейшем повлияет на каждого пользователя смартфона.

Генеративный ИИ открывает новый квадрант для мобильных чипов

в последние годы,Индустрия сотовых телефонов всегда думает о большом предложении.,Как сделать флагманский телефон нового поколения?

этотиндивидуальный Потребности в предложениичип、сотовый телефон、Производители приложений и другие производители совместно думают о таких, как складные экраны.、Флагманские изображения и так далее — это все исследованные направления.

Приход волны генеративного ИИ,Пусть это большое предложение вернется к своим истокам,То есть следующее поколение смартфонов должно быть умнее и мощнее.

Большие модели являются основой всего этого.

Поэтому в прошедший период производители мобильных телефонов начали запускать масштабные модели конечных устройств и выпускать ОС, подключаемые к крупномасштабным моделям OpenAI, что вызвало волну крупномасштабных моделей. было обнаружено, что это новое поколение смартфонов.

Но на практике,Как заставить пользователей сотовых телефонов лучше использовать Большую Модель. Этот индивидуальный основной вопрос,все равно придется кинутьПроизводитель чипов。

Потому что большая Модель приземлилась,должно быть решеноУзкое место в вычислениях, узкое место в энергопотреблении,И полагаться исключительно на облако для его запуска не продлится долго.,И его нельзя принципиально открыть.большой Модельизсотовый сцена с телефоном.

С текущей точки зрения MediaTek и другие руководители сотовый телефон Производитель чипов Критический шаг был сделанизпервый шаг——Комплексное выполнение больших моделей。

Так что же дальше? Как думать о будущем чипов генеративного искусственного интеллекта? А применение крупных моделей на мобильных телефонах?

Кажется, сейчас трудно дать однозначный ответ.

В конце концов, в отрасли совершенно очевидно, что волна крупных моделей находится только на самых ранних стадиях, и как технические аспекты, так и реализация приложений все еще требуют долгосрочного изучения.

Но MediaTek использовал Dimensity 9300, чтобы дать ключевую ссылку:

Мобильные чипы для генеративного ИИ должны готовиться к большим моделям снизу вверх. «Врожденный» больше подходит для больших моделей. В то же время аппаратный уровень должен обеспечивать переполнение возможностей.。

Почему?

По словам MediaTek, «флагманские чипы генеративного искусственного интеллекта определенно будут создавать больше моделей приложений и выполнять более сложные задачи в будущем».

В качестве основы аппаратного уровня,Будь достаточно сильным,Только системы и приложения верхнего уровня могут иметь больше возможностей для инноваций.,Только тогда могут появиться более генеративные конечные приложения ИИ.

Будучи сильным, нужно также двигаться достаточно быстро.

Тяньцзи9300не толькоиvivoДавайте добьемся первого в отраслииндивидуальный7 миллиардовбольшой Модель Приземление боком,Также реализовано13 миллиардов Большие параметры Модель Сквозная операция。

нести Тяньцзи9300изсерия vivo X100Также скоро будет доступно。Тогда вы действительно можете начать тестированиебольшой Модель Каково это – бежать по краю?。

Чего вы ожидаете от больших моделей мобильных телефонов? Как вы относитесь к новой атмосфере, которую генеративный искусственный интеллект привнес в индустрию мобильных телефонов в этом году?

Добро пожаловать, чтобы оставить сообщение в области комментариев для обсуждения ~

— над —