Руководство по интеграции: Стандартные SDK OpenAI

Предварительные требования

Вам нужен API-ключ из панели управления API LLM от abliterated. Создайте аккаунт с адресом электронной почты и паролем, чтобы получить ключ немедленно. Для пробного периода не требуется банковская карта. Базовый URL для всех запросов — https://api.abliteratedapi.com/v1.. Этот URL работает с официальными SDK OpenAI и любым клиентом, совместимым с OpenAI, при настройке base_url и предоставлении вашего API-ключа.

Аутентификация

Передайте ваш API-ключ в заголовке Authorization. Значение должно быть Bearer YOUR_API_KEY. Если ключ недействителен, вы получите ошибку 401. Если ключ отозван после его обновления, он также вернёт 401. При недостатке средств вы получите ошибку 402. Ключи не истекают; они становятся недействительными только при их обновлении.

Copycurl https://api.abliteratedapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Базовое завершение

Отправьте POST-запрос на /v1/chat/completions. Идентификатор модели — "uncensored". API принимает стандартные структуры сообщений. Промпты не используются для обучения. Модель отвечает текстовым выводом. Вы можете отправлять до 8 МБ на тело запроса.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Потоковые ответы

Включите потоковую передачу, установив stream: true в вашем запросе. API возвращает Server-Sent Events (SSE). Это позволяет вам обрабатывать токены по мере их генерации. Потоковая передача работает со всеми стандартными SDK. Используйте это для улучшения пользовательского опыта в чат-интерфейсах.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Вызов функций

API abliterated llm поддерживает вызов функций. Определите инструменты в теле вашего запроса. Модель может выбирать и вызывать эти инструменты. Это работает в стандартном формате OpenAI. Убедитесь, что определения ваших инструментов соответствуют ожиданиям SDK. Это полезно для создания агентов или автоматизированных рабочих процессов.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Лимиты запросов и ограничения

Лимит составляет 300 запросов в минуту на один ключ. Размер контекстного окна — 100 000 токенов для промпта и завершения вместе. При превышении лимита запросов вы получите ошибку 429. Подписки нет; предоплаченный баланс не истекает. Пополнение начинается от $10. Строгое ограничение по контенту блокирует сексуальный контент с участием несовершеннолетних.