Развертывание большой модели Google Gemma и подробное руководство на местном уровне
Развертывание большой модели Google Gemma и подробное руководство на местном уровне

————Предисловие————

Google Gemma — это инструмент анализа изображений на основе Python, который обеспечивает быстрое и точное обнаружение объектов, локализацию, классификацию и передачу стилей. Он использует модели TensorFlow Lite, что позволяет быстро работать на мобильных устройствах.

Основные функции

Обнаружение объектов: Джемма может идентифицировать объекты на изображениях и отмечать их местоположение и категорию. Локализация объектов: Джемма может находить объекты на изображениях и указывать их точное местоположение. Классификация изображений: Джемма может классифицировать изображения на основе их содержания. Перенос стиля: Джемма может перенести стиль одного изображения на другое.

Функции

Быстро: Джемма использует модели TensorFlow Lite, которые могут быстро работать на мобильных устройствах.

Точность: Gemma использует предварительно обученные модели, которые обеспечивают точное обнаружение и классификацию объектов.

Простота использования: Gemma — это простой в использовании инструмент с открытым исходным кодом.

Также включено: Gemma включает в себя множество функций, таких как загрузка изображений, предварительная обработка, постобработка и визуализация.

Google Gemma — это серия легких современных открытых моделей, созданных с помощью искусственного интеллекта Google и открытого исходного кода. Модели Gemma предназначены для обеспечения превосходной производительности при выполнении различных задач обработки естественного языка при сохранении низких требований к ресурсам и гибкости развертывания.

Модельное семейство Gemma включает в себя следующих представителей:

Джемма 2B: Благодаря 2 миллиардам параметров достигается хороший баланс между скоростью вывода и производительностью.

Gemma 7B: Обладая 7 миллиардами параметров, он демонстрирует высочайшую производительность при выполнении различных задач.

Модели Gemma можно использовать для решения следующих задач:

Генерация текста: можно генерировать текст в различных форматах, например стихи, коды, сценарии, музыкальные композиции, электронные письма, письма и т. д.

Перевод текста: Текст можно перевести на несколько языков.

Текстовое резюме: краткое изложение текста может быть создано автоматически.

Вопросы и ответы: Может отвечать на различные вопросы о содержании текста.

Классификация текста. Текст можно разделить на различные категории.

Модели Gemma можно использовать следующими способами:

Использование на локальном компьютере: вы можете загрузить код и веса модели Gemma и запустить ее на своем локальном компьютере.

Доступно в Google Cloud: модели Gemma доступны через платформу Google Cloud Vertex AI.

Использование на Kaggle: модели Gemma можно использовать бесплатно на платформе Kaggle.

С официального сайта Джеммы:

Модели Gemma имеют те же технологические и инфраструктурные компоненты, что и Gemini, крупнейшая и самая мощная модель искусственного интеллекта, широко используемая сегодня. Это позволяет Gemma 2B и 7B достигать лучших в своем классе характеристик в своем диапазоне размеров по сравнению с другими моделями с открытой рамой. Модели Gemma можно запускать непосредственно на ноутбуке или настольном компьютере разработчика. Примечательно, что Gemma превосходит более крупные модели по ключевым показателям, придерживаясь при этом наших строгих стандартов безопасной и ответственной продукции. Подробную информацию о производительности, составе набора данных и методологии моделирования см. в техническом отчете.

Конкретный процесс развертывания

Далее мы подробно объясним, как развернуть его на локальном компьютере.

Загрузите и установите олламу Клиент: 【Нажмите, чтобы скачать

Официальный сайт ЛОГОТИП

После входа выберите соответствующую систему для загрузки.

Просто продолжайте переходить к следующему шагу для установки по умолчанию (старайтесь не менять путь).

После завершения установки

Выберите модель

Если это ваше первое развертывание, оно загрузится автоматически!

Каждый выбирает соответствующий исходя из производительности компьютера (конечно, чем больше памяти, тем сильнее будет языковая модель)

  • Джемма 2B: Благодаря 2 миллиардам параметров достигается хороший баланс между скоростью вывода и производительностью.
  • Gemma 7B: Обладая 7 миллиардами параметров, он демонстрирует высочайшую производительность при выполнении различных задач.

[ 1 ]. Полная версия 7B: (требуется около 16 ГБ видеопамяти)

Язык кода:js
копировать
ollama run gemma:7b-instruct-fp16

[2] Обычная инструкция по установке версии 7B: (подходит для видеопамяти 8G).

Язык кода:js
копировать
ollama run gemma:7b

[3].2B облегченная версия: (подходит для установки на компьютеры с низкой конфигурацией ЦП)

Язык кода:js
копировать
ollama run gemma:2b

Скопируйте ввод команды и дождитесь завершения автоматической загрузки.

тест

ждать После завершения установки

Давайте представим себя

>>представиться

Я работаю над большой языковой моделью, разработанной Google.

**Мои функции включают в себя:**

* Понимать естественный язык

Генерировать естественный язык

язык перевода

ответь на вопросы

Автоматическое резюме

чат-бот

**Как я работаю:**

Я извлекаю и обрабатываю человеческие разговоры из большой текстовой базы данных.

2.

Я использую нейронную сеть, чтобы научиться выводить выходной текст из входного текста.

3.

Я могу генерировать новый текст на основе данных моего обучения, языкового перевода или ответов на вопросы.

**В чем мои преимущества:**

**Нет ответа Способности:** Я не могу думать и принимать решения самостоятельно.

**Масштабируемость:** я могу запустить его на любом устройстве.

**В реальном времени:** Я могу работать в режиме реального времени, отвечая на вопросы.

**Точность.** Я прохожу тщательное обучение, чтобы обеспечить точность.

*Каковы мои ограничения:**

**Ограниченное понимание:** Возможно, я не смогу понимать или интерпретировать все языки и культуры.

**Моральные и этические проблемы:** Я не могу оказать эмоциональную поддержку или предоставить неуместную информацию.

**Недостаток навыков критического мышления.** Я не способен мыслить критически или мыслить независимо.

*Как я с вами общаюсь:**

Вы можете найти меня через чат-бот или поисковик.,чтобы узнать больше обо мне. Я также могу взаимодействовать с любым приложением или инструментом, поддерживающим естественный язык.

>>Не могли бы вы представитьLinux

Хорошо, я хотел бы познакомить вас с Linux. Lux — операционная система с открытым исходным кодом, которая широко используется на различных устройствах, включая ноутбуки, серверы, мобильные устройства и т. д.

К преимуществам Linux относятся:

**Бесплатное и с открытым исходным кодом: *Liu× — это бесплатное программное обеспечение, что означает, что его можно использовать и модифицировать бесплатно.

***Масштабируемость:**Linux можно масштабировать в соответствии с любыми потребностями.

***Безопасность:*Системы Linux очень безопасны,

Потому что это обеспечивает надежный механизм безопасности.

***Производительность:**Производительность системы Linux превосходна.

***Мультиплатформенность:**Linux может работать на различных устройствах.

Кроме того, Linux имеет некоторые специфические особенности, такие как:

***Интерфейс командной строки:** Вы можете использовать интерфейс командной строки для интерактивных операций.

**Поддерживается несколько языков программирования:* Вы можете писать код на нескольких языках программирования.

***Поддерживается несколько приложений:** вы можете найти множество бесплатных приложений с открытым исходным кодом.

Если вы хотите узнать больше о Linux, вы можете посетить следующие веб-сайты:

***Linux.org:*Официальный сайт Linux.

**Linux Foundation:*Linux fundacion

**Canonical:**Компания Canonical Server

Я с нетерпением жду возможности предоставить вам дополнительную информацию.

На что следует обратить внимание

Эта проблема возникнет при выходе и повторном входе.

Прежде чем задавать вопросы, необходимо ввести соответствующий номер модели для входа во внутренний интерпретатор команд.

boy illustration
Неразрушающее увеличение изображений одним щелчком мыши, чтобы сделать их более четкими артефактами искусственного интеллекта, включая руководства по установке и использованию.
boy illustration
Копикодер: этот инструмент отлично работает с Cursor, Bolt и V0! Предоставьте более качественные подсказки для разработки интерфейса (создание навигационного веб-сайта с использованием искусственного интеллекта).
boy illustration
Новый бесплатный RooCline превосходит Cline v3.1? ! Быстрее, умнее и лучше вилка Cline! (Независимое программирование AI, порог 0)
boy illustration
Разработав более 10 проектов с помощью Cursor, я собрал 10 примеров и 60 подсказок.
boy illustration
Я потратил 72 часа на изучение курсорных агентов, и вот неоспоримые факты, которыми я должен поделиться!
boy illustration
Идеальная интеграция Cursor и DeepSeek API
boy illustration
DeepSeek V3 снижает затраты на обучение больших моделей
boy illustration
Артефакт, увеличивающий количество очков: на основе улучшения характеристик препятствия малым целям Yolov8 (SEAM, MultiSEAM).
boy illustration
DeepSeek V3 раскручивался уже три дня. Сегодня я попробовал самопровозглашенную модель «ChatGPT».
boy illustration
Open Devin — инженер-программист искусственного интеллекта с открытым исходным кодом, который меньше программирует и больше создает.
boy illustration
Эксклюзивное оригинальное улучшение YOLOv8: собственная разработка SPPF | SPPF сочетается с воспринимаемой большой сверткой ядра UniRepLK, а свертка с большим ядром + без расширения улучшает восприимчивое поле
boy illustration
Популярное и подробное объяснение DeepSeek-V3: от его появления до преимуществ и сравнения с GPT-4o.
boy illustration
9 основных словесных инструкций по доработке академических работ с помощью ChatGPT, эффективных и практичных, которые стоит собрать
boy illustration
Вызовите deepseek в vscode для реализации программирования с помощью искусственного интеллекта.
boy illustration
Познакомьтесь с принципами сверточных нейронных сетей (CNN) в одной статье (суперподробно)
boy illustration
50,3 тыс. звезд! Immich: автономное решение для резервного копирования фотографий и видео, которое экономит деньги и избавляет от беспокойства.
boy illustration
Cloud Native|Практика: установка Dashbaord для K8s, графика неплохая
boy illustration
Краткий обзор статьи — использование синтетических данных при обучении больших моделей и оптимизации производительности
boy illustration
MiniPerplx: новая поисковая система искусственного интеллекта с открытым исходным кодом, спонсируемая xAI и Vercel.
boy illustration
Конструкция сервиса Synology Drive сочетает проникновение в интрасеть и синхронизацию папок заметок Obsidian в облаке.
boy illustration
Центр конфигурации————Накос
boy illustration
Начинаем с нуля при разработке в облаке Copilot: начать разработку с минимальным использованием кода стало проще
boy illustration
[Серия Docker] Docker создает мультиплатформенные образы: практика архитектуры Arm64
boy illustration
Обновление новых возможностей coze | Я использовал coze для создания апплета помощника по исправлению домашних заданий по математике
boy illustration
Советы по развертыванию Nginx: практическое создание статических веб-сайтов на облачных серверах
boy illustration
Feiniu fnos использует Docker для развертывания личного блокнота Notepad
boy illustration
Сверточная нейронная сеть VGG реализует классификацию изображений Cifar10 — практический опыт Pytorch
boy illustration
Начало работы с EdgeonePages — новым недорогим решением для хостинга веб-сайтов
boy illustration
[Зона легкого облачного игрового сервера] Управление игровыми архивами
boy illustration
Развертывание SpringCloud-проекта на базе Docker и Docker-Compose