Практика автоматического тестирования клиента ПК на основе платформы распознавания изображений Sikuli GUI
Практика автоматического тестирования клиента ПК на основе платформы распознавания изображений Sikuli GUI

напиши впереди

За последние два дня компания выполнила задание по тестированию клиента ПК. Помимо самого базового функционального тестирования, оно также включает в себя тестирование стабильности и тестирование совместимости. Только в прошлом году я познакомился с Sikuli, инструментом автоматического тестирования, основанным на платформе распознавания изображений с графическим интерфейсом, поэтому я использовал его в работе по тестированию, чтобы помочь в тестировании задач. После первоначального испытания общий эффект не был удовлетворительным, и это косвенно помогло мне обнаружить фатальную ошибку (о которой будет сказано позже).

1. Создатель системы распознавания изображений с графическим пользовательским интерфейсом: Сикули.

Sikuli Основан в 2009 — это исследовательский проект с открытым исходным кодом группы дизайна пользовательского интерфейса Массачусетского технологического института. 2012 год год по RaiMan взять на себя разработку и Поддержите и назовите его СикулиX. Он основан на технологии поиска изображений и предоставляет набор Jython язык сценариев и интегрированная среда разработки. Пользователи могут использовать снимки экрана, чтобы напрямую Цитировать GUI Элементы запрограммированы на выполнение интерактивных операций. Сикули Это слово взято из языка коренных народов Мексики, что означает «око Бога» и означает… Sikuli Позвольте компьютеру «видеть» реальный мир, как человек. граница”。Официальный сайт:http://www.sikulix.com/

SikuliXПоддерживается как язык сценариев:

  • Уровень языка Python 2.7 (поддерживается Jython)
  • Поддержка запуска текстовых сценариев RobotFramework.
  • Ruby уровень языка 1.9 и 2.0 (на базе JRuby)
  • JavaScript (поддерживается Java Script Engine)

SikuliXОбычное использование:

  • Ежедневные задачи по автоматизации приложений или веб-страниц.
  • играть в игры
  • Управление ИТ-системами и сетями

2. Принцип работы Сикули

http://doc.sikuli.org/devs/system-design.html#sikuli-ide

3. Установка Сикули

Sikuli Поддерживает кроссплатформенную работу и может работать на Mac. OS X、Windows и Linux По системе。Скачать адрес:https://launchpad.net/sikuli/+downloadили Официальный сайт:http://sikulix.com/

Рекомендуется установить x1.0-rc3 (требуется версия JDK1.6).

4. Базовое использование основного интерфейса Sikuli IDE.

Sikuli1.xВерсия официальной документации:http://doc.sikuli.org/

  • В левой части показаны часто используемые функции, включая поиск, действия мыши, действия клавиатуры и т. д.
  • Нажмите на изображение элемента, чтобы настроить смещение распознавания и точность сопоставления.
  • Когда сценарий сикули сохраняется впервые, будет предложен путь сохранения и появится всплывающее окно. Путь сохранения можно настроить.
  • Скрипт также можно экспортировать в исполняемый файл в формате exe.
  • Скрипт соответствует каталогу, а каталог соответствует снимку экрана со значком и скрипту Python в скрипте.

5. Синтаксис сценария сикули

Сценарии Sikuli соответствуют синтаксическим спецификациям Python и сами предоставляют множество пользовательских классов и их пользовательских методов. Поскольку Sikuli основан на Jython, а его основной код написан на Java, его можно использовать в качестве стандартной библиотеки классов Java в определяемых пользователем проектах Java.

  • Найдите окно приложения: myApp.window().
  • Сосредоточьтесь на текущем приложении: myApp.focus().
  • Определите, существует ли элемент: существует()
  • Нажмите на элемент или значок: click()
  • Введите текстовое содержимое: введите («привет, мир»)
  • Нажмите клавишу клавиатуры: введите(Key.ENTER). Имя клавиши должно быть написано с заглавной буквы.

6. Примеры применения Сикули

Пример сценария для ПК-клиента для автоматической отправки сообщений в цикле:

Язык кода:javascript
копировать
import time
import random

myApp=App("yueyun-im")  # Объявить экземпляр приложения
if not myApp.window():  # Определите, находитесь ли вы в настоящее время в окне приложения.
    openApp("D:\\yueyun-im\\yueyun-im.exe")  # Если его нет в окне приложения, откройте EXE-файл в указанном месте.
    myApp.focus()  # Сосредоточьтесь на приложении
if exists("K7iX.png"):  # Определить, существует ли значок
    click("K7iX.png")  # Нажмите кнопку «Указать значок».
if not exists("1655945972853.png"):
    click("1655946081065.png")
click("1655945972853.png")
#while 'p' in 'python': 
for i in range(10):
    type("TEST-SIKULI-MSG-"+str(i))
    time.sleep(0.2)  # Спать 3 секунды
    #click("1655946081065.png")
    type(Key.ENTER)  # Нажмите клавишу ENTER на клавиатуре, Названия. кнопок должны быть с заглавной буквы
    type(Key.ENTER)
myApp.close()  # Закрыть приложение

7. Преимущества и ограничения Сикули

1. Преимущества

① Низкая стоимость обучения: вам нужно всего лишь освоить простой синтаксис Python, чтобы быстро начать работу;

② Не нужно обращать внимание на атрибуты элементов: что видишь, то и получаешь;

③ Подходит для размещения пользовательских интерфейсов, таких как нестандартные элементы управления, например игровые интерфейсы;

④ Поддержка кроссплатформенности, например: Windows, Linux, macOS;

2. Ограничения

① В зависимости от распознавания изображения размер, разрешение и цвет изображения будут влиять на распознавание, а расположение не может точно идентифицировать элемент;

② Можно найти только тот оконный интерфейс, который используется в данный момент;

③ Если процесс слишком длинный, сценарий будет слишком раздутым;

④ Изображения схожи, что влияет на распознавание, а точность изображений необходимо настраивать вручную одно за другим;

Сводка по использованию Сикули

  • Хотя сикули не практично реализовывать сложные тестовые сценарии,Это также реальность, которую не может изменить любой графический интерфейс пользователя. Но его по-прежнему легко использовать для тестирования некоторых конкретных сценариев.,например:

① Циклически и непрерывно отправлять сообщения 7*24 часа для проверки стабильности работы программы;

② Постоянно отправляйте изображения или видеофайлы, чтобы проверить стабильность непрерывной загрузки и скачивания файлов программой;

③ Запустите на разных версиях системы ПК, чтобы проверить совместимость программы;

  • Для веб-автоматизации и автоматизации приложений в основном используется специальная платформа автоматизации.,нравитьсяселен, аппиум,В качестве вспомогательного средства можно использовать сикули в сочетании с селеном и др.;
  • Для конкретных и сложных сценариев, таких как игровые интерфейсы, флэш-приложения и другие интерфейсы приложений, элементы которых трудно идентифицировать, вы можете использовать сикули;
  • Тестируем сцену сегодня②В процессе я также обнаружилbug:【В текущем окне чата программа вылетает при загрузке картинок.】。Хотя этоbugдаsikuliИзмеренныйbugНесколько надуманно(сам Автоматизированное тестированиенидараньше обнаруживалbugиз),Но сикули определенно сыграли большую роль. Пока его можно использовать разумно,Любой скромный инструмент может быть ценным!
boy illustration
Неразрушающее увеличение изображений одним щелчком мыши, чтобы сделать их более четкими артефактами искусственного интеллекта, включая руководства по установке и использованию.
boy illustration
Копикодер: этот инструмент отлично работает с Cursor, Bolt и V0! Предоставьте более качественные подсказки для разработки интерфейса (создание навигационного веб-сайта с использованием искусственного интеллекта).
boy illustration
Новый бесплатный RooCline превосходит Cline v3.1? ! Быстрее, умнее и лучше вилка Cline! (Независимое программирование AI, порог 0)
boy illustration
Разработав более 10 проектов с помощью Cursor, я собрал 10 примеров и 60 подсказок.
boy illustration
Я потратил 72 часа на изучение курсорных агентов, и вот неоспоримые факты, которыми я должен поделиться!
boy illustration
Идеальная интеграция Cursor и DeepSeek API
boy illustration
DeepSeek V3 снижает затраты на обучение больших моделей
boy illustration
Артефакт, увеличивающий количество очков: на основе улучшения характеристик препятствия малым целям Yolov8 (SEAM, MultiSEAM).
boy illustration
DeepSeek V3 раскручивался уже три дня. Сегодня я попробовал самопровозглашенную модель «ChatGPT».
boy illustration
Open Devin — инженер-программист искусственного интеллекта с открытым исходным кодом, который меньше программирует и больше создает.
boy illustration
Эксклюзивное оригинальное улучшение YOLOv8: собственная разработка SPPF | SPPF сочетается с воспринимаемой большой сверткой ядра UniRepLK, а свертка с большим ядром + без расширения улучшает восприимчивое поле
boy illustration
Популярное и подробное объяснение DeepSeek-V3: от его появления до преимуществ и сравнения с GPT-4o.
boy illustration
9 основных словесных инструкций по доработке академических работ с помощью ChatGPT, эффективных и практичных, которые стоит собрать
boy illustration
Вызовите deepseek в vscode для реализации программирования с помощью искусственного интеллекта.
boy illustration
Познакомьтесь с принципами сверточных нейронных сетей (CNN) в одной статье (суперподробно)
boy illustration
50,3 тыс. звезд! Immich: автономное решение для резервного копирования фотографий и видео, которое экономит деньги и избавляет от беспокойства.
boy illustration
Cloud Native|Практика: установка Dashbaord для K8s, графика неплохая
boy illustration
Краткий обзор статьи — использование синтетических данных при обучении больших моделей и оптимизации производительности
boy illustration
MiniPerplx: новая поисковая система искусственного интеллекта с открытым исходным кодом, спонсируемая xAI и Vercel.
boy illustration
Конструкция сервиса Synology Drive сочетает проникновение в интрасеть и синхронизацию папок заметок Obsidian в облаке.
boy illustration
Центр конфигурации————Накос
boy illustration
Начинаем с нуля при разработке в облаке Copilot: начать разработку с минимальным использованием кода стало проще
boy illustration
[Серия Docker] Docker создает мультиплатформенные образы: практика архитектуры Arm64
boy illustration
Обновление новых возможностей coze | Я использовал coze для создания апплета помощника по исправлению домашних заданий по математике
boy illustration
Советы по развертыванию Nginx: практическое создание статических веб-сайтов на облачных серверах
boy illustration
Feiniu fnos использует Docker для развертывания личного блокнота Notepad
boy illustration
Сверточная нейронная сеть VGG реализует классификацию изображений Cifar10 — практический опыт Pytorch
boy illustration
Начало работы с EdgeonePages — новым недорогим решением для хостинга веб-сайтов
boy illustration
[Зона легкого облачного игрового сервера] Управление игровыми архивами
boy illustration
Развертывание SpringCloud-проекта на базе Docker и Docker-Compose