Развертывание LibreChat

LibreChat — платформа с открытым исходным кодом, которая предоставляет универсальный интерфейс для работы с различными языковыми моделями (LLM).

В этом руководстве вы установите и запустите LibreChat на виртуальной машине с помощью Docker Compose.

1. Создайте виртуальную машину с внешним временным IP-адресом.

2. Разрешите HTTP-трафик для виртуальной машины:

   1. В веб-консоли выберите нужный проект.
   2. В списке сервисов выберите Compute → Виртуальные машины.
   3. Нажмите на имя созданной ВМ и перейдите на вкладку Сетевые интерфейсы.
   4. Нажмите кнопку Настроить, выберите опцию Разрешить HTTP-трафик, после чего нажмите кнопку Сохранить.

3. Создайте деплоймент. Выберите модель и имя деплоймента — qwen3-coder-480b-a35b.

4. Создайте API-ключ и сохраните его значение.

1. Подключитесь к ВМ по SSH.

2. Обновите систему и установите зависимости:

   1
   sudo apt update && \
   2
   sudo apt install -y apt-transport-https ca-certificates curl software-properties-common gnupg lsb-release git nodejs npm

3. Подключите официальный репозиторий Docker:

   1
   curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg && \
   2
   echo "deb [arch=$(dpkg --print-architecture) signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null && \
   3
   sudo apt update

4. Установите Docker Engine:

   1
   sudo apt install -y docker-ce

5. Добавьте текущего пользователя в группу docker:

   1
   sudo usermod -aG docker $USER

6. Перезагрузите ВМ:

   1
   sudo reboot

7. Подключитесь к ВМ и убедитесь, что Docker перешел в статус active (running):

   1
   sudo systemctl status docker

8. Установите Docker Compose Plugin:

   1
   sudo apt install -y docker-compose-plugin

9. Убедитесь, что плагин установлен. Для этого запросите его версию:

   1
   docker compose version

   Пример вывода:

   1
   Docker Compose version v5.1.3

1. Клонируйте репозиторий:

   1
   git clone https://github.com/danny-avila/LibreChat.git
   2
   cd LibreChat/

2. Создайте конфигурационный файл librechat.yaml:

   1
   version: 1.3.5
   2
   cache: true
   3
   endpoints:
   4
     custom:
   5
       - name: "GPTHub"
   6
         apiKey: "${MODELHUB_API_KEY}"
   7
         baseURL: "https://gpt.mwsapis.ru/projects/<имя вашего проекта>/openai/v1"
   8
         models:
   9
           default: ["qwen3-coder-480b-a35b"]
   10
           fetch: true
   11
         titleConvo: true
   12
         titleModel: "qwen3-coder-480b-a35b"
   13
         dropParams: ["stop"]
   14
         modelDisplayLabel: "GPTHub"

3. Создайте файл окружения из шаблона:

   1
   cp .env.example .env

4. Сгенерируйте новые значения для секретов LibreChat.

5. Замените в файле .env стандартные значения секретов на полученные в предыдущем шаге, например:

   1
   # FIND THESE VARIABLES AND REPLACE THEIR DEFAULT VALUES!
   2
   
   3
   # Must be a 16-byte IV (32 characters in hex)
   4
   
   5
   CREDS_IV=e2341419ec3dd3d19b13a1a87fafcbf1
   6
   
   7
   # Must be 32-byte keys (64 characters in hex)
   8
   
   9
   CREDS_KEY=f34be427ebb29de8d88c107a71546039685ed8b241d8f2ed00c3df97ad2566f0
   10
   JWT_SECRET=16f8c0ef4a5d391b26034086c628449d3f9f497f08163ab9b40137092f2909ef
   11
   JWT_REFRESH_SECRET=eaa5191f2914e30b9387fd85e254e4ba6fc51b4654968a9b0803b456a54b8418

6. Добавьте в файл .env строку с API-ключом, полученным на подготовительном шаге:

   1
   MODELHUB_API_KEY=<API-ключ>

7. Запустите контейнер с приложением LibreChat:

   1
   sudo docker compose -f ./deploy-compose.yml up -d

8. Убедитесь, что приложение успешно запущено:

   1
   sudo docker compose -f ./deploy-compose.yml ps

1. Для проверки работы приложения откройте ссылку в браузере:

   1
   http://<публичный IP-адрес ВМ>

   Откроется веб-интерфейс LibreChat.

2. Зарегистрируйте новый аккаунт используя адрес электронной почты. После завершения регистрации авторизуйтесь с помощью этого аккаунта.

3. Выберите нужную модель. Для этого в верхнем левом углу экрана нажмите на кнопку gpt-5.4 и выберите GPTHub → qwen3-coder-480b-a35b.

4. Отправьте тестовый запрос к модели, например, Привет! Ты готов к работе?.

Ресурсы, созданные в руководстве, тарифицируются. Если вы больше не планируете использовать их:

1. Удалите виртуальную машину.
2. Удалите деплоймент.