AI-провайдеры¶
Единая страница для настройки всех интеллектуальных сервисов: LLM, STT и embedding-моделей.
Как устроено¶
Один провайдер может предоставлять несколько сервисов (моделей). Например, один аккаунт OpenAI — это и GPT-4o (LLM), и text-embedding-3 (embedding), и Whisper (STT).
В Schemix вы заводите провайдер один раз с его API-ключом, а затем включаете нужные сервисы в этом провайдере.
Поддерживаемые провайдеры¶
| Провайдер | Тип сервисов | Требует |
|---|---|---|
| OpenAI | LLM, Embedding, STT (Whisper) | API Key |
| OpenAI-compatible | LLM, Embedding | API Key + Base URL |
| YandexGPT | LLM, Embedding | Folder ID + API Key |
| YandexSpeechKit | STT | Folder ID + API Key |
| Ollama | LLM (локально) | Локальная установка |
| rubert-tiny2 | Embedding (встроенный) | Ничего |
Добавление провайдера¶
Администрирование → AI-провайдеры → Добавить.
- Выберите тип провайдера.
- Заполните учётные данные (API Key, Folder ID, Base URL — зависит от типа).
- Нажмите Сохранить.
Schemix автоматически предложит включить доступные сервисы.
Включение сервисов¶
В карточке провайдера → вкладка Сервисы → чекбоксами отметьте нужные модели. Для каждой можно задать:
- Кастомное имя — как сервис будет отображаться при выборе в AI Task
- Task Class — Light / Medium / Heavy (для LLM)
Ollama (локальная модель)¶
- Установите Ollama на сервер.
- Загрузите модель:
ollama pull llama3. - В Schemix: добавьте провайдер типа Ollama, Base URL:
http://localhost:11434. - Включите модель как LLM-сервис.
Task Class и маршрутизация LLM¶
AI Task имеет параметр Task Class: Light / Medium / Heavy. Вы можете назначить разные модели на разные классы:
- Light — быстрая дешёвая модель (gpt-4o-mini, yandexgpt-lite)
- Medium — сбалансированная (gpt-4o, yandexgpt)
- Heavy — мощная для сложных задач (Claude Opus, gpt-4o)
При выполнении AI Task Schemix автоматически выберет первую активную модель нужного класса.
STT-провайдеры¶
Используются в узле STT Task и на сервисных рёбрах с предобработкой аудио.
- YandexSpeechKit — русская речь, диаризация (спикеры), таймкоды
- Whisper — мультиязык, качественное распознавание
STT-сервис выбирается в настройках STT Task или при создании сервисного ребра.
Embedding-провайдеры¶
Используются в базах знаний. Модель выбирается при создании конкретной базы знаний, а не глобально.
- rubert-tiny2 — встроенный, бесплатный, для русского текста
- OpenAI embeddings — мультиязык, требует API-ключ
- YandexGPT Embeddings — для Yandex Cloud