Api
Нативный API
Документация нативного API ER-GPT.
Обзор
Нативный API ER-GPT предоставляет прямой доступ к нашей инфраструктуре с оптимизированными эндпоинтами и дополнительными возможностями, недоступными в OpenAI-совместимом слое.
Планируемые функции
- Расширенные контекстные окна — больший контекст, чем у стандартных API
- Кастомные параметры моделей — точная настройка генерации
- Пакетная обработка — эффективная отправка множества запросов
- Потоковая передача в реальном времени — оптимизированная реализация SSE
- Контроль ограничений — конфигурация для каждого эндпоинта