Вернуться наверх

Развертывание LibreChat ​

LibreChat — платформа с открытым исходным кодом, которая предоставляет универсальный интерфейс для работы с различными языковыми моделями (LLM).

В этом руководстве вы установите и запустите LibreChat на виртуальной машине с помощью Docker Compose.

Перед началом работы ​

  1. Создайте виртуальную машину с внешним временным IP-адресом.

  2. Разрешите HTTP-трафик для виртуальной машины:

    1. В веб-консоли выберите нужный проект.
    2. В списке сервисов выберите Compute → Виртуальные машины.
    3. Нажмите на имя созданной ВМ и перейдите на вкладку Сетевые интерфейсы.
    4. Нажмите кнопку Настроить, выберите опцию Разрешить HTTP-трафик, после чего нажмите кнопку Сохранить.

  3. Создайте деплоймент. Выберите модель и имя деплоймента — qwen3-coder-480b-a35b.

  4. Создайте API-ключ и сохраните его значение.

1. Установите Docker и Docker Compose Plugin ​

  1. Подключитесь к ВМ по SSH.

  2. Обновите систему и установите зависимости:

    bash
    sudo apt update && \
sudo apt install -y apt-transport-https ca-certificates curl software-properties-common gnupg lsb-release git nodejs npm

  3. Подключите официальный репозиторий Docker:

    bash
    curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg && \
echo "deb [arch=$(dpkg --print-architecture) signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null && \
sudo apt update

  4. Установите Docker Engine:

    bash
    sudo apt install -y docker-ce

  5. Добавьте текущего пользователя в группу docker:

    bash
    sudo usermod -aG docker $USER

  6. Перезагрузите ВМ:

    bash
    sudo reboot

  7. Подключитесь к ВМ и убедитесь, что Docker перешел в статус active (running):

    bash
    sudo systemctl status docker

  8. Установите Docker Compose Plugin:

    bash
    sudo apt install -y docker-compose-plugin

  9. Убедитесь, что плагин установлен. Для этого запросите его версию:

    bash
    docker compose version

    Пример вывода:

    bash
    Docker Compose version v5.1.3

2. Установите LibreChat ​

  1. Клонируйте репозиторий:

    bash
    git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat/

  2. Создайте конфигурационный файл librechat.yaml:

    yaml
    version: 1.3.5
cache: true
endpoints:
  custom:
    - name: "GPTHub"
      apiKey: "${MODELHUB_API_KEY}"
      baseURL: "https://gpt.mwsapis.ru/projects/<имя вашего проекта>/openai/v1"
      models:
        default: ["qwen3-coder-480b-a35b"]
        fetch: true
      titleConvo: true
      titleModel: "qwen3-coder-480b-a35b"
      dropParams: ["stop"]
      modelDisplayLabel: "GPTHub"

  3. Создайте файл окружения из шаблона:

    bash
    cp .env.example .env

  4. Сгенерируйте новые значения для секретов LibreChat.

  5. Замените в файле .env стандартные значения секретов на полученные в предыдущем шаге, например:

    text
    # FIND THESE VARIABLES AND REPLACE THEIR DEFAULT VALUES!

# Must be a 16-byte IV (32 characters in hex)

CREDS_IV=e2341419ec3dd3d19b13a1a87fafcbf1

# Must be 32-byte keys (64 characters in hex)

CREDS_KEY=f34be427ebb29de8d88c107a71546039685ed8b241d8f2ed00c3df97ad2566f0
JWT_SECRET=16f8c0ef4a5d391b26034086c628449d3f9f497f08163ab9b40137092f2909ef
JWT_REFRESH_SECRET=eaa5191f2914e30b9387fd85e254e4ba6fc51b4654968a9b0803b456a54b8418

  6. Добавьте в файл .env строку с API-ключом, полученным на подготовительном шаге:

    bash
    MODELHUB_API_KEY=<API-ключ>

  7. Запустите контейнер с приложением LibreChat:

    bash
    sudo docker compose -f ./deploy-compose.yml up -d

  8. Убедитесь, что приложение успешно запущено:

    bash
    sudo docker compose -f ./deploy-compose.yml ps

3. Проверьте работу приложения ​

  1. Для проверки работы приложения откройте ссылку в браузере:

    text
    http://<публичный IP-адрес ВМ>

    Откроется веб-интерфейс LibreChat.

  2. Зарегистрируйте новый аккаунт используя адрес электронной почты. После завершения регистрации авторизуйтесь с помощью этого аккаунта.

  3. Выберите нужную модель. Для этого в верхнем левом углу экрана нажмите на кнопку gpt-5.4 и выберите GPTHub → qwen3-coder-480b-a35b.

  4. Отправьте тестовый запрос к модели, например, Привет! Ты готов к работе?.

Удалите платные ресурсы ​

Ресурсы, созданные в руководстве, тарифицируются. Если вы больше не планируете использовать их:

  1. Удалите виртуальную машину.
  2. Удалите деплоймент.