Сценарии

Поддерживаемые процессы Screph

Ниже показаны четыре процесса текущей версии: исходные данные, работа в Screph, сохраняемый результат и ограничения каждого режима.

РеализованоGeneral / GUI Automation

Подготовка GUI-сценария

Назначение

Описать элементы интерфейса, их признаки, состояния и отношения для последующей автоматизации.

Исходные данные

Экран или окно Windows, отдельный снимок либо запись действий.

Работа в Screph

Разметка элементов и связей, описания, при необходимости OCR и сопоставление изображений, затем проверка результата.

Сохранённый результат

Основной проект и отдельно подготовленный сценарий для Automation Runtime; выбранные данные также можно передать в Screph Code.

Ограничение: Проект не исполняется автоматически. Для запуска нужны отдельный сценарий, координатный контекст и настроенный способ ввода.

РеализованоGeneral

Анализ компьютерного зрения

Назначение

Связать область интереса, параметры метода, визуальный результат и решение о применении к разметке.

Исходные данные

Изображение, снимок экрана, видео или папка с медиафайлами.

Работа в Screph

Запуск отдельного метода, последовательности или графа методов и сравнение исходных данных с масками, контурами, распознанным текстом и метриками.

Сохранённый результат

Параметры, журнал выполнения и файлы результатов. Изменение основной разметки сохраняется только после подтверждения.

Ограничение: Методы с моделями требуют подходящих файлов моделей и зависимостей; для Tesseract OCR нужна локальная установка.

ЭкспериментальноAction CV

Поиск целей в записи действий

Назначение

Определить визуальную цель записанного нажатия клавиши или кнопки мыши.

Исходные данные

Запись действий и связанные кадры до, во время и после действия.

Работа в Screph

LLM может предложить план, методы компьютерного зрения выполняются локально, а результат принимается, изменяется или отклоняется пользователем.

Сохранённый результат

Предложенная цель, сведения о её происхождении и решение пользователя рядом с исходной записью.

Ограничение: Результат требует проверки человеком. Исходная запись действий остаётся неизменной.

ЭкспериментальноIndustrial / UAV

Предметные задачи Industrial и UAV

Назначение

Исследовать изображения с предметными типами данных для дефектов, измерений, изменений и траекторий.

Исходные данные

Промышленное изображение или кадры UAV с доступными временными и пространственными данными.

Работа в Screph

Выбор режима, запуск методов, сравнение результата с исходными данными и подтверждение поддерживаемого изменения разметки.

Сохранённый результат

Основная разметка и дополнительные материалы выбранного режима.

Ограничение: Эти процессы ещё не завершены и не управляют оборудованием, производством, миссиями или автопилотом.