Особенности с первого взгляда:
LibreChat поддерживает службу, совместимую с OpenAI API, с помощью файла конфигурации librechat.yaml.
Создайте файл с именем docker-compose.override.yml
файл, если он еще не существует.
Добавьте в файл следующее содержимое:
services:
api:
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yaml
Узнайте об этом здесь Docker Compose Override документ для получения дополнительной информации.
Создайте файл с именем librechat.yaml
файл, если он еще не существует.
Добавьте свою собственную конечную точку. Вы можете сделать это по адресу AI конечная точка Частичный просмотр совместимых конечных точка。
Этот список не является исчерпывающим, обычно каждый из них содержит OpenAI API Совместимый Служить должен уметь строить. Настроить точка Есть много вариантов。Посмотреть все варианты здесь:Пользовательская структура объекта конечная точка。
В качестве примера приведем конфигурацию для OpenRouter и Ollama:
version: 1.1.4
cache: true
endpoints:
custom:
- name: "OpenRouter"
apiKey: "${OPENROUTER_KEY}"
baseURL: "https://openrouter.ai/api/v1"
models:
default: ["gpt-3.5-turbo"]
fetch: true
titleConvo: true
titleModel: "current_model"
summarize: false
summaryModel: "current_model"
forcePrompt: false
modelDisplayLabel: "OpenRouter"
- name: "Ollama"
apiKey: "ollama"
baseURL: "http://host.docker.internal:11434/v1/"
models:
default: [
"llama3:latest",
"command-r",
"mixtral",
"phi3"
]
fetch: true # fetching list of models is not supported
titleConvo: true
titleModel: "current_model"
Отредактируйте существующий файл в корневом каталоге проекта. .env
документ. Если нет, то копировать .env.example
и переименован в .env
。Согласно вышеизложенному Конфигурация,OPENROUTER_KEY
Необходимо установить переменные среды:
OPENROUTER_KEY=your_openrouter_api_key
Уведомление: Например, в этом руководстве предполагается, что вы настроили автономный Ollama,и можетпроходить Доступ следующими способами:
http://host.docker.internal:11434
host.docker.internal
это особенный DNS имя, разрешимое для внутреннего IP адрес. Возможно, вам придется изменить его на Ollama реальный экземпляр IP адрес. В будущем руководстве мы расскажем, как настроить Ollama а также LibreChat。
Теперь, когда настройка вашего документа завершена, вы можете запустить приложение:
docker compose up
Альтернативно, если вы уже запускали приложение ранее, вы можете перезапустить его с помощью:
docker compose restart
Уведомление:Перед выполнением команды убедитесь, что ваш Docker Desktop или Docker Engine Бег.
Хотите последние обновления? Перейдите по следующей ссылке, чтобы просмотреть страницу выпуска и инструкции по обновлению:
⚠️ Пожалуйста, проверьте перед обновлением https://www.librechat.ai/changelog узнать о важных изменениях.
Хотите запустить LibreChat локально? Вот подробные шаги:
Ручная загрузка:
использовать Git:
git clone https://github.com/danny-avila/LibreChat.git
Уведомление: Рекомендуется для большинства пользователейиспользовать Docker Рабочий стол. Если вы ищете продвинутый Настройка докера/контейнера, особенно установка удаленного сервера, см. Руководство по развертыванию Ubuntu Docker。 Возможно, вам придется перезагрузить компьютер после установки.
.env
документ:
.env.example
Содержание копировать на имя .env
Новый документ..env
документ Конфигурациягид。docker compose up
в заключение: вот и все! Теперь вы сможете запускать локально на своем компьютере. Либре Чат. Наслаждаться!