LLM и распознавание речи
Screph поддерживает локальные и облачные подключения. Каждая функция использует явно выбранный профиль и не переключается на другую службу без изменения настроек.
Профили LLM
Профиль содержит вид службы, адрес, модель и параметры запроса. Поддерживаются OpenAI, Anthropic, Gemini, OpenRouter, совместимые с OpenAI службы, Ollama, LM Studio и LiteLLM Proxy.
Профили назначаются ролям: Screph Code, Agent, компьютерное зрение, смысловая обработка и проверка подключения. Одна модель может подходить не всем ролям.
Локальная и облачная обработка
| Вариант | Передача данных |
|---|---|
| Ollama / LM Studio | Контекст обрабатывается локальной службой на компьютере пользователя или в указанной локальной сети. |
| Облачный профиль LLM | Разрешённый текст, изображения и контекст передаются выбранному провайдеру. |
| Совместимая пользовательская служба | Данные передаются по адресу, указанному в профиле. Пользователь отвечает за доверие к этому адресу и его условия. |
Ключи и проверка подключения
Ключи API сохраняются в Windows Credential Manager. В обычных настройках остаются адрес службы, модель и параметры. Если системное хранилище недоступно, ключ не должен сохраняться открытым текстом.
Сохранение или проверка профиля может обратиться к выбранной службе, чтобы проверить доступ и получить список моделей. Такая проверка не отправляет проект, но служба получает обычные данные сетевого запроса и учётные данные профиля.
Распознавание речи
| Вариант | Требования и данные |
|---|---|
| Vosk | Локальная модель выбранного языка; аудио остаётся на компьютере. |
| Yandex | Аудио передаётся сервису Yandex с учётными данными пользователя или через доступную серверную функцию Screph. |
| Google Cloud Speech | Аудио передаётся Google с настроенными учётными данными. |
| OpenAI-compatible | Аудио передаётся указанной совместимой службе. |
Настройка
- Создайте профиль и укажите службу, адрес и модель.
- Сохраните ключ через системное хранилище, если он требуется.
- Проверьте подключение и назначьте профиль нужной роли.
- Выполните тест на несекретных данных до использования рабочего проекта.
Если подключение не работает
- Проверьте адрес, модель, ключ, сетевой доступ и ограничения аккаунта провайдера.
- Для локальной службы убедитесь, что она запущена и модель загружена.
- Для Vosk проверьте язык и путь к локальной модели.