RU ▾

Настройка Open WebUI с OpenAI-совместимым API за 5 минут

Для настройки open webui openai compatible api добавьте одно подключение с базовым URL и ключом, и модель появится в списке. Вот точная настройка для Abliterated API, от Docker до первого чата.

Обновлено

Интерфейс чата, соединённый светящимся кабелем с сервером размещённого API, иллюстрирующий подключение Open WebUI

Ключевые моменты

  • Базовый URL — https://api.abliteratedapi.com/v1, а идентификатор модели — uncensored.
  • Добавьте его в настройках подключений администратора или передайте OPENAI_API_BASE_URL и OPENAI_API_KEY в Docker.
  • Сначала проверьте ключ через curl, чтобы отличить проблему с ключом от проблемы с интерфейсом.
  • Open WebUI — это только фронтенд: вы платите за токены, которые модель читает и пишет, и для начала не нужна карта.

Краткая версия

Если вам нужна настройка open webui openai compatible api в одном абзаце: откройте настройки администратора, добавьте подключение OpenAI API, укажите URL https://api.abliteratedapi.com/v1, вставьте ключ, сохраните и выберите модель uncensored. Всё. Open WebUI работает с любым API, поддерживающим формат чата OpenAI, и этот API тоже.

Сервис — это размещённый текстовый API, совместимый с OpenAI, работающий на одной модели с открытыми весами, настроенной на ответы без отказов по содержанию для законного использования взрослыми. Его предоставляет независимый провайдер, это не официальный API какой-либо лаборатории моделей. Open WebUI — это просто интерфейс чата, который вы к нему подключаете.

Начало работы

  • API-ключ. Создайте его на странице API-ключ. Регистрация доступна через Google или по email и паролю. Новые пользователи могут активировать $0,50 пробного баланса в один клик на этой странице, он действителен в течение 7 дней и не требует привязки карты.
  • Запущенный Open WebUI. Подойдёт установка через Docker или pip. Ниже описаны шаги для Docker и экрана настроек.
  • Доступ к сети с машины, на которой запущен Open WebUI, к api.abliteratedapi.com по HTTPS.

Проверьте ключ перед тем, как взаимодействовать с интерфейсом. Если этот вызов возвращает список, содержащий uncensored, ключ и URL в порядке:

curl https://api.abliteratedapi.com/v1/models   -H "Authorization: Bearer $ABLITERATED_API_KEY"

Затем подтвердите, что генерация ответа работает:

curl https://api.abliteratedapi.com/v1/chat/completions   -H "Authorization: Bearer $ABLITERATED_API_KEY"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'

Способ 1: добавьте подключение в настройках

Это самый простой способ, который работает на существующей установке. Названия пунктов меню могут немного отличаться в разных версиях Open WebUI.

  1. Войдите в Open WebUI как администратор и откройте Панель администратора, затем Настройки, затем Подключения.
  2. Найдите раздел OpenAI API и добавьте новое подключение с помощью кнопки «плюс».
  3. В поле URL введите https://api.abliteratedapi.com/v1. Остановитесь на /v1. Не добавляйте /chat/completions; Open WebUI добавит этот путь сам.
  4. Вставьте свой ключ в поле ключа. Он отправляется как Authorization: Bearer <key>.
  5. Используйте кнопку проверки рядом с полями, если ваша версия её поддерживает, затем сохраните.

Откройте новый чат и раскройте список выбора моделей. Модель uncensored должна быть в списке, так как Open WebUI получает её из GET /v1/models. Если список пуст, перейдите к разделу устранения неполадок ниже.

Способ 2: настройте при запуске через Docker

Для чистой установки передайте эндпоинт как переменные окружения. Open WebUI считывает OPENAI_API_BASE_URL и OPENAI_API_KEY при запуске.

# base URL: https://api.abliteratedapi.com/v1   model to pick in the UI: uncensored
docker run -d -p 3000:8080   -e OPENAI_API_BASE_URL="https://api.abliteratedapi.com/v1"   -e OPENAI_API_KEY="$ABLITERATED_API_KEY"   -v open-webui:/app/backend/data   --name open-webui --restart always   ghcr.io/open-webui/open-webui:main

Затем посетите http://localhost:3000, создайте первую учётную запись (она станет администратором) и начните чат. Именованный том сохраняет ваши чаты и настройки при обновлении контейнера.

Один момент часто подводит: многие настройки Open WebUI сохраняются в его базу данных после первого запуска, и сохранённое значение может иметь приоритет над значением из переменной окружения. Если вы изменили ключ или URL в Docker, но ничего не произошло, измените их на экране «Подключения» или сбросьте сохранённую настройку.

Настройки, которые стоит изменить

Когда чат заработает, несколько опций улучшат опыт использования и сделают счёт предсказуемым.

Разумно используйте контекстное окно

Контекстное окно составляет 100 000 токенов, общих для промпта и ответа. Open WebUI отправляет историю чата при каждом сообщении, поэтому длинный разговор становится дороже с каждым обменом сообщениями. При стоимости $0,15 за 1M входных токенов история на 20 000 токенов стоит $0,003 за отправку — это дёшево, но сумма накапливается при тысячах сообщений. Начинайте новый чат для новой темы.

Потоковая передача и сэмплирование

Open WebUI по умолчанию использует потоковую передачу ответов, а API поддерживает потоковую передачу через SSE. В расширенных параметрах можно задать temperature, top_p, стоп-последовательности, сид для воспроизводимого вывода и штрафы. Они передаются модели напрямую. Оставьте max_tokens пустым, если не хотите жёсткого ограничения, так как это необязательный параметр.

Фоновые задачи

Open WebUI может выполнять дополнительные вызовы моделей в фоновом режиме, например, для создания имени чата. Каждый из них — это реальный запрос, который списывается с вашего баланса и учитывается в рамках лимитов. Если вы заметили вызовы, которые вы не вводили вручную, проверьте настройки модели задач и укажите модель, за которую готовы платить, или отключите вспомогательные функции.

Пресеты и системные промпты

Open WebUI позволяет сохранять пресет модели в разделе рабочего пространства: имя, базовую модель, системный промпт и параметры по умолчанию. Создайте пресет на основе uncensored для каждой частой задачи, например, помощник по редактированию, рецензент кода или персонаж для интерактивной фантастики. Короткий системный промпт, указывающий роль, тон и формат ответов, работает лучше длинных инструкций, вставляемых в каждый чат.

Здесь помогает профиль модели. Это модель с открытыми весами, настроенная на ответы без отказов по содержанию для законного использования взрослыми, что подходит для фантастики, ролевых игр и приложений-компаньонов для взрослых, где отказ посреди сцены нарушает поток. Это не меняет жёсткое ограничение: контент сексуального характера с участием несовершеннолетних запрещён всегда. Держите пресеты и общие инстансы в рамках этого правила и законодательства вашей страны.

Если вашим экземпляром Open WebUI пользуются другие, помните, что все они используют ваш ключ и его лимиты. Полный ключ позволяет 8 параллельных запросов, поэтому несколько активных пользователей — нормально, а большая группа, общающаяся в чате одновременно, может достичь предела. Выдача каждому человеку или команде своего ключа распределяет нагрузку и упрощает учёт баланса.

Стоимость использования

Вы платите только за токены из предоплаченного баланса: $0,15 за 1M входных токенов и $0,50 за 1M выходных токенов. Неудачные или отклонённые запросы не списываются, а баланс не сгорает. Типичное сообщение чата с историей на 3 000 токенов и ответом на 400 токенов стоит $0,00045 + $0,0002 = $0,00065, поэтому $10 расходов — это примерно 15 000 сообщений.

Пополнения от $20 до $500 любой целой суммой, с бонусом +5% от $50, +10% от $100 и +15% от $200. Оплата криптовалютой (USDT на TRC20, USDC на Base). Подробности на странице тарифов. Оставшийся баланс возвращается в заголовке X-Balance-USD каждого ответа API, если вы хотите отслеживать его через скрипт.

Устранение неполадок

СимптомВероятная причинаИсправление
Список моделей пустНеверный URL или ключЗапустите тест curl для /v1/models. URL должен заканчиваться на /v1.
Отказ в соединении или тайм-аут из DockerНет исходящего HTTPS из контейнераПроверьте настройки DNS, прокси и брандмауэра на хосте.
Ошибка аутентификации при каждом сообщенииКлюч вставлен с пробелами или старый ключСкопируйте ключ заново со страницы ключей и сохраните снова.
Ошибки при одновременном общении нескольких пользователейЛимит запросовПолный ключ позволяет 8 одновременных запросов и 300 в минуту; пробный ключ позволяет 2 и 60.
Длительный чат перестаёт работатьКонтекстное окно заполненоРазмер окна — 100 000 токенов. Начните новый чат или выполните суммаризацию.

Если тест curl проходит, но Open WebUI не работает, проблема в настройках фронтенда. Если curl не работает, сначала проверьте ключ и баланс. В быстром старте в документации перечислены все параметры запроса, а статья о том, что такое API чата uncensored и чем он не является объясняет возможности модели, включая жёсткое ограничение: отсутствие сексуального контента с участием несовершеннолетних.

Вопросы и ответы

Какой URL я ввожу в Open WebUI?

Используйте https://api.abliteratedapi.com/v1 и ничего больше. Open WebUI самостоятельно добавляет /chat/completions и /models.

Какое имя модели я выбираю?

Идентификатор модели — uncensored. Он появляется в списке выбора моделей после сохранения подключения и загрузки списка моделей.

Нужна ли карта для пробного использования?

Нет. Новые пользователи могут получить $0,50 пробного баланса одним нажатием на странице API-ключа после регистрации. Он действителен в течение 7 дней и не требует привязки карты.

Могу ли я запустить его вместе с локальными моделями?

Да. Open WebUI поддерживает несколько подключений одновременно, поэтому этот эндпоинт может находиться рядом с локальными моделями, и каждая из них отображается в одном списке выбора моделей.

Используются ли мои чаты для обучения?

Нет. Промпты, отправленные в API, не используются для обучения. История чатов, хранящаяся в Open WebUI, остаётся в вашей собственной установке.

Ваш ключ — всего в одной форме

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.

Получить API-ключ