Open Source • AGPL-3.0 Open Source • AGPL-3.0
Screph - автоматизация интерфейсов

Автоматизируйте любой интерфейс
без программирования
Automate any interface
no coding required

Разметьте элементы на экране и опишите действия голосом или текстом. Дальше — либо сгенерируйте код автоматизации в один клик (pyautogui, Selenium, Playwright), либо экспортируйте структурированные данные и признаки для работы в любом агентном IDE и других инструментах. Annotate screen elements and describe actions with voice or text. Then either generate automation code in one click (pyautogui, Selenium, Playwright) or export structured data and features for any agentic IDE workflow and other tools.

🎯 Выделяй как в Paint Select like in Paint 🎙️ Диктуй действия голосом Dictate actions by voice 🔗 Визуальный граф сценария Visual scenario graph 📤 Экспорт в JSON & Python Export to JSON & Python

Ключевые возможности Key Features

Интуитивное выделение элементов Intuitive Element Selection

Выделяйте элементы (кнопки, поля ввода, списки) на изображении экрана. Система сохраняет их координаты и размеры. Easily select any interactive elements directly on your application screen – buttons, input fields, lists, and much more, without needing to understand complex selectors.

Голосовые и текстовые аннотации Voice and Text Annotations

Добавляйте к элементам текстовые и голосовые аннотации. Работает через внешний провайдер или офлайн с локальными моделями Vosk. Describe each element and desired actions via text or voice. Voice annotations work via an external provider or offline with local Vosk models.

Подготовка данных и эмуляция действий Data Preparation and Action Emulation

Формируйте структурированные данные (изображения, выделения, аннотации, связи), извлекайте признаки и эмулируйте действия пользователя. Используйте результат для генерации кода в один клик или как входные данные для любых агентных инструментов. Screph builds a structured dataset (images, selections, annotations, relations), extracts features, and emulates user actions. Use the result for one-click code generation or as input to any agentic tooling.

Интеграция с IDE IDE Integration

Экспорт данных и кода в IDE (Trae/VS Code): генерация в один клик, копирование кода и работа с экспортом в любых агентных инструментах. Export data and code into your IDE (Trae/VS Code): one-click generation, code copy, and agentic workflows on top of exported data.

Как это работает (кратко) How it Works (Briefly)

  1. Шаг 1: Выделите элементы на экране вашего приложения. Step 1: Select elements on your application screen.
  2. Шаг 2: Опишите их назначение и желаемые действия. Step 2: Describe their purpose and desired actions.
  3. Шаг 3: Определите связи между элементами. Step 3: Define connections between elements.
  4. Шаг 4: Эмулируйте действия и выберите результат: код в один клик или экспорт данных. Step 4: Emulate actions and choose the outcome: one-click code generation or data export.
  5. Шаг 5: Запустите, доработайте код или используйте экспорт в вашей IDE и агентных инструментах. Step 5: Run and refine code or use the export in your IDE and agentic tools.

Сценарии применения Use Cases

Screph объединяет компьютерное зрение, удобный голосовой интерфейс и бесшовную передачу размеченных данных в популярные агентные инструменты. Screph combines computer vision, a voice-first workflow, and seamless handoff of annotated data to popular agentic tools.

В итоге вы можете применять автоматизацию на основе распознавания образов даже там, где раньше это было нерентабильно — из‑за сложности и стоимости привлечения специалистов по компьютерному зрению. This makes vision-based automation practical even in areas where it used to be uneconomical due to the complexity and cost of involving computer vision specialists.

Legacy Systems

Legacy-системы без APILegacy Systems Without API

Разметка экранов старых терминалов, SCADA, банковских АБС. По данным разметки можно быстро получить сценарии управления и мониторинга.Annotate screens of old terminals, SCADA, banking ABS. Based on your annotations, you can generate management and monitoring scripts.

Промышленность • Госсектор • ФинансыIndustry • Government • Finance
Expert Knowledge

Оцифровка экспертных навыковDigitizing Expert Knowledge

Записывайте, как эксперт работает с UI. По разметке можно получить сценарии обучения и автоматизации.Record how an expert works with the UI. Use annotations to generate training and automation scripts.

Обучение • HRTraining • HR
Compliance

Визуальный комплаенсVisual Compliance

Размечаете формы с правилами проверки. По разметке можно получить скрипты контроля и протоколирования.Annotate forms with validation rules. Generate control and logging scripts based on your annotations.

Финансы • АудитFinance • Audit
Integration

Интеграция без APIIntegration Without API

Размечаете UI двух систем (CAD ↔ ERP, LIMS ↔ Excel). По разметке можно сформировать пайплайн переноса данных через визуальное взаимодействие.Annotate the UI of two systems (CAD ↔ ERP, LIMS ↔ Excel). Generate a data transfer pipeline via visual interaction.

Enterprise • Консалтинг • ИнтеграторыEnterprise • Consulting • Integrators
ETL from Video

ETL из видеоETL from Video

Разметка кадров скринкастов → по разметке можно получить скрипт и документацию.Annotate screencast frames → generate scripts and documentation from your annotations.

SOP • Best practicesSOP • Best practices
Surveillance

Оператор видеонаблюденияVideo Surveillance Operator

Разметка интерфейса VMS + план объекта. По разметке можно получить сценарии миссий и отчётов.Annotate VMS interface + facility map. Generate mission and report scripts from your annotations.

Безопасность • РитейлSecurity • Retail
Laboratory

Лабораторные протоколыLaboratory Protocols

Разметка интерфейсов приборов → по разметке можно получить скрипты серийных измерений и выгрузки в LIMS.Annotate instrument interfaces → generate serial measurement and LIMS export scripts from your annotations.

Фарма • БиотехPharma • Biotech
Creative Pipelines

Креативные пайплайныCreative Pipelines

Разметка Adobe/DaVinci/Blender. По разметке можно получить сценарии пакетных операций и рендера.Annotate Adobe/DaVinci/Blender. Generate batch processing and rendering scripts from your annotations.

Студии • КонтентStudios • Content
Accessibility

Агенты доступностиAccessibility Agents

Разметка UI с учётом ограничений. По разметке можно получить сценарии адаптации любого приложения.Annotate UI with accessibility constraints. Generate adaptation scripts for any application from your annotations.

Инклюзия • B2CInclusion • B2C
Sports Analytics

Спортивная аналитикаSports Analytics

Разметка элементов трансляции. По разметке можно получить скрипты извлечения событий и статистики.Annotate broadcast elements. Generate event extraction and statistics scripts from your annotations.

Медиа • КиберспортMedia • Esports
UX Annotation

UX-аннотированиеUX Annotation

Разметка намерений элементов. По разметке можно получить чеклисты, метрики и A/B-гипотезы.Annotate element intents. Generate checklists, metrics, and A/B hypotheses from your annotations.

Продукт • ДизайнProduct • Design
Trading

Трейдинг-операцииTrading Operations

Разметка терминалов. По разметке можно получить скрипты снятия позиций и compliance-отчётов.Annotate terminals. Generate position closing and compliance report scripts from your annotations.

Бэк-офис • РискBack-office • Risk
Digital Twin

Цифровые двойники процессовDigital Process Twins

Разметка экранов бизнес-процесса с временной логикой. По разметке можно получить BPMN-модель и исполняемый сценарий.Annotate business process screens with temporal logic. Generate a BPMN model and executable script from your annotations.

Консалтинг • Оптимизация • EnterpriseConsulting • Optimization • Enterprise
EdTech

EdTech-проверкиEdTech Assessments

Разметка учебных сред. По разметке можно получить проверяющие сценарии и персональные подсказки.Annotate learning environments. Generate assessment scripts and personalized hints from your annotations.

ОбучениеEducation
Healthcare

Legacy-медсистемыLegacy Healthcare Systems

Разметка UI закрытых систем. По разметке можно получить автоматизацию «поверх» без модификации.Annotate closed system UIs. Generate "overlay" automation without modification from your annotations.

Медицина • ГоспорталыHealthcare • Government Portals
QA Testing

Визуальное регресс-тестированиеVisual Regression Testing

Разметка эталонных состояний UI. По разметке можно получить скрипты сравнения и отчёты для QA.Annotate reference UI states. Generate comparison scripts and QA reports from your annotations.

QA • CI/CDQA • CI/CD