Самостоятельно разработанная платформа мониторинга служб планирования больших данных с открытым исходным кодом на основе Kettle с открытым исходным кодом.
Самостоятельно разработанная платформа мониторинга служб планирования больших данных с открытым исходным кодом на основе Kettle с открытым исходным кодом.

Этот продукт основан на базовом компоненте интерфейса Kettle, разработанном Kettle с открытым исходным кодом. На самом деле, я хотел сделать это еще 5 лет назад. Это заняло много времени, и это было отложено до сих пор. все в порядке. Сейчас еще не поздно.

Первоначальная идея была вдохновлена ​​проектом платформы обмена данными, который был реализован для табачных изделий в том же году. Извлечение данных было основано на версии Kettle 5.x, а извлечение данных выполнялось с использованием клиента ложки Kettle.

Он решает сложные и важные проблемы ETL для предприятий, поэтому Kettle — отличный инструмент для извлечения данных с открытым исходным кодом.

В то же время сам чайник также имеет много проблем, таких как

  • Вы можете использовать клиент только для настройки заданий, конверсий
  • Сложности с кроссплатформенным портированием.
  • Безопасность данных низкая. При сбое системы содержимое библиотеки файлов легко теряется.
  • Клиент потребляет много памяти и процессора. Подходит только для настройки и не подходит для бизнеса.
  • Веб-интерфейс чрезвычайно прост и уродлив, что делает его непригодным для использования в производственной среде.

Основываясь на вышеупомянутых болевых точках бизнеса, я решил каждый день после работы выделять немного времени для отдыха, медленно накапливать и упорствовать. Только тогда сегодня родилась платформа планирования Smart Kettle. Я также надеюсь, что ее можно будет эффективно внедрить. . Помогите предприятиям решить проблемы извлечения, планирования и мониторинга данных.

Болевые точки бизнеса

  • Клиент Kettle's Spoon потребляет слишком много памяти, ненормально зависает и имеет очевидные узкие места в производительности.
  • Kettle поставляется с собственным инструментом веб-управления, который чрезвычайно груб и сложен в использовании, и его нельзя внедрить в производственную среду.
  • Клиентский инструмент чайника нельзя использовать в системах Linux.
  • Клиент чайника не может быть по-настоящему кроссплатформенным, а переключение между сценариями bat и оболочки затруднено.
  • Мигрировать клиент чайника хлопотно. Его приходится каждый раз устанавливать, а это энергозатратно.

Это сверхлегкая веб-платформа для планирования и мониторинга чайников.

  • Поддерживает пользовательские настройки шаблонов для заданий и конверсий.
  • Поддержка многозадачного копирования шаблонов для заданий и конверсий.
  • Поддерживает синхронизацию конфигураций на стороне графического интерфейса для заданий и преобразований в веб-сторону.
  • Поддерживает настройку пользовательского пути для заданий и журналов преобразований.
  • Поддерживает управление загрузкой файлов журналов для заданий и конверсий.
  • Поддержка конфигурации библиотеки ресурсов библиотеки файлов
  • поддерживатьбаза данных Конфигурация библиотеки ресурсов
  • Поддержка настройки библиотеки удаленных ресурсов SFTP/FTP/FTPS.
  • Поддержка просмотра дерева каталогов библиотеки ресурсов.
  • Поддерживает кластерное планирование заданий и преобразований (удаленные вызовы субсервера).
  • Поддерживает синхронизацию конфигураций на стороне графического интерфейса для заданий и преобразований в веб-сторону.
  • Поддерживает настройку планирования заданий и конверсий.
  • Поддержка мониторинга и управления заданиями и конверсиями
  • Поддержка локального выполнения заданий и преобразований
  • Поддерживает удаленное выполнение заданий и преобразований.
  • Поддерживает запланированную настройку заданий и преобразований.
  • поддерживать Операция、Конвертированный мониторинг в реальном времени
  • Поддержка управления библиотекой веб-ресурсов чайника.
  • Поддерживает настройки пользовательского пула потоков и параллельную обработку задач.
  • Поддержка мониторинга сигналов тревоги и управления журналами задач чайника.
  • Предоставляет богатые пользовательские настройки для бизнес-библиотеки и библиотеки словарей.
  • Обеспечить полный мониторинг рыночного планирования в режиме реального времени.
  • Обеспечить управление пользователями системы, ролями и разрешениями.
  • Предоставить Друидбазу скрипт dataquery для мониторинга в реальном времениспособность
  • Поддерживает чайник 7.0.1+ и выше.
  • Текущая версия Kettle — 9.2.0.0-179 (Примечание: необходимо настроить плагины teat-password-encoder. Эта система интегрирована и дальнейшая настройка не требуется)
  • Maven3+
  • Jdk1.8+
  • Mysql5.7+

https://gitee.com/yaukie/x-smart-kettle-server

Пользователи сети могут продолжать изучать новые функции.

boy illustration
Неразрушающее увеличение изображений одним щелчком мыши, чтобы сделать их более четкими артефактами искусственного интеллекта, включая руководства по установке и использованию.
boy illustration
Копикодер: этот инструмент отлично работает с Cursor, Bolt и V0! Предоставьте более качественные подсказки для разработки интерфейса (создание навигационного веб-сайта с использованием искусственного интеллекта).
boy illustration
Новый бесплатный RooCline превосходит Cline v3.1? ! Быстрее, умнее и лучше вилка Cline! (Независимое программирование AI, порог 0)
boy illustration
Разработав более 10 проектов с помощью Cursor, я собрал 10 примеров и 60 подсказок.
boy illustration
Я потратил 72 часа на изучение курсорных агентов, и вот неоспоримые факты, которыми я должен поделиться!
boy illustration
Идеальная интеграция Cursor и DeepSeek API
boy illustration
DeepSeek V3 снижает затраты на обучение больших моделей
boy illustration
Артефакт, увеличивающий количество очков: на основе улучшения характеристик препятствия малым целям Yolov8 (SEAM, MultiSEAM).
boy illustration
DeepSeek V3 раскручивался уже три дня. Сегодня я попробовал самопровозглашенную модель «ChatGPT».
boy illustration
Open Devin — инженер-программист искусственного интеллекта с открытым исходным кодом, который меньше программирует и больше создает.
boy illustration
Эксклюзивное оригинальное улучшение YOLOv8: собственная разработка SPPF | SPPF сочетается с воспринимаемой большой сверткой ядра UniRepLK, а свертка с большим ядром + без расширения улучшает восприимчивое поле
boy illustration
Популярное и подробное объяснение DeepSeek-V3: от его появления до преимуществ и сравнения с GPT-4o.
boy illustration
9 основных словесных инструкций по доработке академических работ с помощью ChatGPT, эффективных и практичных, которые стоит собрать
boy illustration
Вызовите deepseek в vscode для реализации программирования с помощью искусственного интеллекта.
boy illustration
Познакомьтесь с принципами сверточных нейронных сетей (CNN) в одной статье (суперподробно)
boy illustration
50,3 тыс. звезд! Immich: автономное решение для резервного копирования фотографий и видео, которое экономит деньги и избавляет от беспокойства.
boy illustration
Cloud Native|Практика: установка Dashbaord для K8s, графика неплохая
boy illustration
Краткий обзор статьи — использование синтетических данных при обучении больших моделей и оптимизации производительности
boy illustration
MiniPerplx: новая поисковая система искусственного интеллекта с открытым исходным кодом, спонсируемая xAI и Vercel.
boy illustration
Конструкция сервиса Synology Drive сочетает проникновение в интрасеть и синхронизацию папок заметок Obsidian в облаке.
boy illustration
Центр конфигурации————Накос
boy illustration
Начинаем с нуля при разработке в облаке Copilot: начать разработку с минимальным использованием кода стало проще
boy illustration
[Серия Docker] Docker создает мультиплатформенные образы: практика архитектуры Arm64
boy illustration
Обновление новых возможностей coze | Я использовал coze для создания апплета помощника по исправлению домашних заданий по математике
boy illustration
Советы по развертыванию Nginx: практическое создание статических веб-сайтов на облачных серверах
boy illustration
Feiniu fnos использует Docker для развертывания личного блокнота Notepad
boy illustration
Сверточная нейронная сеть VGG реализует классификацию изображений Cifar10 — практический опыт Pytorch
boy illustration
Начало работы с EdgeonePages — новым недорогим решением для хостинга веб-сайтов
boy illustration
[Зона легкого облачного игрового сервера] Управление игровыми архивами
boy illustration
Развертывание SpringCloud-проекта на базе Docker и Docker-Compose