Интенсивное чтение статьи | 2024[KDD] Пространственно-временное раннее прогнозирование на основе многокритериального обучения с подкреплением
Интенсивное чтение статьи | 2024[KDD] Пространственно-временное раннее прогнозирование на основе многокритериального обучения с подкреплением

тема:Spatio-temporal Early Prediction based on Multi-objective Reinforcement Learning

автор:Wei Шао (Шао Вэй), Yufan Кан (Кан Юфан), Ziyan Пэн (Пэн Цзыян), Xiao Сяо (Сяо Сяо), Lei Ван (Ван Лэй), Yuhui Ян (Ян Юхуэй), Flora D Salim

механизм:CSIRO, Королевский Мельбурнский технологический институт (RMIT), Сидианский университет, Чжэцзянский университет, Университет Нового Южного Уэльса (UNSW)

TL; DR: 这篇бумагапредставилПространственно-временная модель раннего прогнозирования STEMO, основанная на многокритериальном обучении с подкреплением,Адаптивно определять лучшее время прогноза,достигСвоевременностьиточностьновый баланс。Должен МодельиспользоватьМногографовая сверточная нейронная сеть(MGCN)иблок замкнутого контура(GRU)捕捉и分析пространственно-временная корреляция,结合编码器输出的隐藏状态и节点嵌入использоватьТехнология встраивания узлов, основанная на смещенном случайном блужданииПриходитьАдаптивно определять лучшее время для прогнозирования,в то же времяФиксирует скрытые предпочтения в разных контекстах

URL-адрес arXivhttps://arxiv.org/abs/2406.04035

Total 9 Pages(3 Methodology+ 3 Experiment)

Abstract

В задачах прогнозирования зачастую сложно одновременно оптимизировать точность и своевременность. Результаты прогнозирования, полученные слишком рано, могут привести к более высокому уровню ложноположительных результатов, в то время как поздние прогнозы, которые собирают больше информации, могут сделать результаты менее своевременными. В реальных сценариях, таких как лесные пожары, преступность и пробки, своевременные прогнозы имеют решающее значение для обеспечения безопасности человеческих жизней и имущества. Поэтому баланс между точностью и своевременностью является горячей темой исследований. В этой статье предлагается пространственно-временная модель раннего прогнозирования, основанная на многоцелевом обучении с подкреплением, которая может реализовывать оптимальные стратегии на основе предпочтений или выводить предпочтения на основе небольшого количества выборок. Эта модель решает две основные задачи: 1) повышение точности ранних прогнозов, 2) обеспечение стратегии оптимизации, способной определить оптимальное время прогнозирования для каждого региона. Этот метод превосходно работает на трех крупномасштабных наборах реальных данных, превосходя существующие методы в ранних задачах пространственно-временного прогнозирования.

Три примера ранних предсказаний

Introduction

Проблема пространственно-временного прогнозирования — это инновационная задача пересечения в областях географических информационных систем, статистики и науки о данных. Она в основном используется в задачах, где на результаты прогнозирования влияют изменения географического местоположения и времени. Этот метод прогнозирования имеет широкое применение в таких областях, как метеорология, эпидемиология, транспорт и городское планирование.

Пространственно-временное раннее предсказание в основном предсказывает будущие события, обнаруживая закономерности, которые следуют за изменениями во времени и пространстве, как можно раньше, и широко используется в реальных областях, таких как эпидемиология, экологические исследования и общественная безопасность. В этих областях выявление пространственно-временных закономерностей на ранних стадиях дает менеджерам более точные рекомендации по принятию решений и предотвращает возникновение худших результатов. Например, при прогнозировании распространения болезней своевременность результатов гораздо важнее точности. Чрезмерное стремление к точным, но устаревшим результатам прогнозирования может привести к тысячам ненужных смертей. Своевременные, но менее точные результаты часто могут уменьшить последствия распространения и гарантировать безопасность жизни и имущества людей.

Существующие методы прогнозирования пространственно-временных событий условно делятся на три типа: традиционные методы, фиксированные методы и адаптивные методы. Например, традиционные методы прогнозирования учитывают все записанные данные, требуют очень много времени для обработки больших наборов данных и требуют полного априорного сбора данных, что часто приводит к задержкам прогнозирования и не подходят для областей с чувствительными ко времени требованиями. Напротив, фиксированные методы раннего прогнозирования работают в течение установленного периода наблюдения, способствуя своевременному прогнозированию в пределах определенного временного окна. Хотя эта стратегия повышает своевременность, ее фиксированный график может привести к неточным результатам, если окно наблюдения выбрано неправильно. Кроме того, на точность прогноза влияет негибкость в корректировке изменений временных данных и выборе окон наблюдения. Третий метод — адаптивное раннее прогнозирование, которое динамически корректирует время прогнозирования на основе характеристик данных. Этот подход направлен на то, чтобы сбалансировать точность и своевременность прогнозов, а его способность к динамической адаптации обеспечивает значительные преимущества при обработке временных изменений.

Адаптивные методы раннего прогнозирования достигли хороших результатов в некоторых областях, но в пространственно-временном прогнозировании все еще остается много проблем. В основном включают в себя: 1) Двойной баланс в реальном времени в очень сложных средах: пространственно-временные данные более сложны, чем данные временных рядов, изменяются быстрее и требуют динамических решений. Традиционные методы многокритериальной оптимизации статичны и требуют больших вычислительных ресурсов и не могут эффективно адаптироваться к различным сценариям. В то же время ранние прогнозы требуют немедленных результатов, и даже минутное промедление может привести к неблагоприятным последствиям. 2) Глобальная пространственно-временная зависимость. Пространственно-временной прогноз, основанный исключительно на корреляции расстояний, может оказаться затруднительным для быстрого определения ключевых особенностей данных. Хотя корреляция расстояний эффективно отражает отношения пространственной связи между узлами, она игнорирует временную зависимость, необходимую для точного прогнозирования. 3) Обнаружение скрытых предпочтений. Баланс между своевременностью и точностью варьируется от задачи к задаче, и каждая задача может иметь разные предпочтения. Выявление этих глубоко укоренившихся предпочтений является сложной задачей, требующей глубокого понимания поставленных целей и разработки идеальной балансирующей стратегии для каждого сценария.

В этом исследовании представлена ​​пространственно-временная модель раннего прогнозирования (STEMO), основанная на многоцелевом обучении с подкреплением. Ее основные преимущества включают:

  • Предложено многоцелевое обучение с Система подкрепления включает в себя оптимизацию пространственно-временных прогнозов Своевременности и точности. Этот метод адаптируется к изменяющимся сценариям посредством интерактивного обучения с обратной связью в реальном времени.
  • Вводится многошаговая матрица сходства, позволяющая каждому узлу улавливать тенденции других вышестоящих узлов и тем самым раньше оценивать изменения в этих узлах.
  • Разработал технологию встраивания узлов, основанная на смещенном случайном блуждании,Повышена вероятность посещения узлов с более высоким сходством.,Чтобы добиться наилучшего времени. Для решения проблем с неоднородным масштабом объекта или единиц измерения,Мы предлагаем метод выявления скрытых предпочтений и используем метод энтропийного веса.

Предыстория и мотивация

Пространственно-временное предсказание в метеорологии、Эпидемиология、交通运输и城市规划等领域具有重要应用,В частности, своевременное прогнозирование лесных пожаров, преступности и пробок имеет решающее значение для обеспечения безопасности жизни и имущества людей. Точность и Своевременность в задачах прогнозирования часто конфликтуют друг с другом.,Преждевременные прогнозы могут привести к увеличению количества ложных тревог.,Хотя прогнозирование задержки позволяет получить больше информации,добиться более высокой точности,Но можно потерять своевременность. Пространственно-временное прогнозирование требует большего, чем просто динамические решения,Также необходимо одновременно учитывать корреляцию между измерениями времени и пространства. в то же время,Различные задачи имеют разные предпочтения в отношении баланса между своевременностью и точностью. поэтому,Эффективный и гибкий баланс результатов прогнозирования Своевременности и точности является фундаментальной целью данного исследования.

Проблемы, с которыми сталкиваются в настоящее время

  1. пространственно-временные данные нуждаются в динамических решениях: пространственно-временные данные Сравниватьвременной рядданныеболее сложный,Меняйтесь быстрее,Отсюда необходимость в динамических решениях. Традиционные методы многокритериальной оптимизации статичны и сложны в вычислительном отношении.,Неспособность эффективно адаптироваться к различным условиям. Ранние прогнозы требуют немедленных результатов,Даже минутное промедление может привести к неблагоприятным результатам.
  2. Интегрированная пространственно-временная зависимость. Пространственно-временное прогнозирование, основанное исключительно на корреляции расстояний, не может быстро уловить ключевые характеристики данных. Хотя корреляция расстояний эффективно отражает пространственную связь между узлами, она игнорирует временной аспект данных.
  3. Раскопки скрытых предпочтений: разные задачи имеют разные предпочтения в отношении баланса между своевременностью и точностью. Выявление этих тонких предпочтений является сложной задачей.,Требуется глубокое понимание целей.,и разработать идеальный баланс своевременности и точности для каждого сценария.

Основные моменты и вклад

  1. многоцелевое обучение с подкреплением:Построенмногоцелевое обучение с Модель STEMO обеспечивает своевременность и точность пространственно-временного прогнозирования. Благодаря интерактивному обучению на основе обратной связи в реальном времени она может реализовывать оптимальные стратегии на основе предпочтений, определять предпочтения на основе небольшого количества образцов и улучшать способности. адаптироваться к меняющимся моделям поведения. обучение с Суть подкреплений заключается в том, что Модель может выполнять различные задачи прогнозирования.,Независимое обучение и оптимизация нескольких целей (таких как точность и своевременность),для достижения наилучших результатов прогнозирования.
  2. Динамическая временная матрица подобия:Представляем многоэтапную матрицу сходства,Включите каждый узел для сбора тенденций от других вышестоящих узлов.,Это позволяет раньше оценить изменения узлов.
  3. Встраивание узлов и смещенное случайное блуждание:Разработал технологию встраивания узлов, основанная на смещенном случайном блуждании,Повышенная вероятность посещения узлов с более высоким сходством.,и достичь лучшего времени
  4. Обнаружение скрытых предпочтений:Метод обнаружения скрытых предпочтений разработан с использованием метода энтропийных весов.,Решайте проблемы с неоднородными масштабами или единицами измерения объектов.

Ядро: многоцелевое обучение с подкреплением

Сутью этой статьи является многоцелевое обучение с подкреплением, которое позволяет модели адаптивно обучаться и оптимизировать точность и своевременность при решении различных задач прогнозирования, балансируя их для достижения наилучшего эффекта прогнозирования. Эта модель может обнаруживать скрытые предпочтения и динамически корректировать стратегии прогнозирования на основе различных ситуаций и требований задач для удовлетворения различных требований. Это не только повышает гибкость и адаптируемость прогнозов, но и значительно повышает точность прогнозов модели в реальных сценариях.

Модельная архитектура

STEMO

На фото STEMO Модельная архитектура. Модель в основном состоит из трех частей:

Пространственно-временной Predictor):Ответственный за обработкупространственно-временные данные, извлекать пространственно-временные характеристики и генерировать прогнозируемые значения. В то время кодер (Encoder) использует GRU (блок замкнутого контура) обрабатывает записанные значения во времени для извлечения пространственно-временных особенностей и генерирует скрытые состояния. Используя скрытые состояния, декодер генерирует серию прогнозируемых значений, Прогнозируемое значение на время.

Генератор состояний (Состояние Generator):В предвзятом случайном блуждании,Некоторые члены смещения вводятся для изменения вероятности выбора соседних узлов.,Это позволяет вам целенаправленно контролировать направление и фокус вашего блуждания. Модуль генератора состояний разрабатывает функции внедрения, объединяет встраивания узлов и скрытые состояния, а также использует смещенную выборку случайного блуждания и методы word2vec.,Генерируйте информацию о состоянии узлов в разное время для принятия решений. Эти представления состояния объединяют текущую информацию об узле и информацию о соседях.,Для оптимизации времени прогноза,Повышайте точность и своевременность прогнозирования.

Оптимальная стратегия (Оптимальная Policies):использовать生成的状态信息,Определите оптимальное время прогнозирования для каждого узла. Используйте набор действий, чтобы решить, продолжать ли наблюдение («Подождать») или сделать паузу («Остановить»). Продолжение наблюдения указывает на необходимость дальнейшего наблюдения за записанным значением. Пауза указывает на то, что время является оптимальным для узла.,Соответствующее прогнозируемое значение записывается в «Прогнозированные значения». Этот модуль использует нейронные сети для представления значений Q.,Объедините состояние, действия и пользовательские настройки,Выбирайте действия, используя жадную стратегию,И разработайте функцию вознаграждения, чтобы предсказывать точность и время. Обучите нейронную сеть, минимизировав функцию потерь,найти оптимальный набор политик,Включает все пространства предпочтений.

Кроме того, в процессе прогнозирования модели скрытые закономерности и предпочтения в данных будут анализироваться путем оценки и оптимизации параметров усеченного многомерного распределения Гаусса, эффективного обнаружения приоритетов различных целей, оптимизации процесса прогнозирования и выполнения прогноза. результаты будут более точными и своевременными.

Результаты экспериментов

Набор данных

точность Результаты экспериментов

Производительность алгоритмов многокритериальной оптимизации

эксперимент по абляции

g1 фокусируется на эффективности, g2 фокусируется на точности

Точность и настройки в реальном времени

Подвести итог

True Set в нескольких больших масштабах данныхна Результаты экспериментовпоказывать,STEMOМодель Превосходно справляется с различными задачами прогнозирования,验证了其在实际应用中的有效性и可行性。STEMOМодельв совершенствовании задач пространственно-временного прогнозированияточностьи Своевременность Значительный прогресс был достигнут в,предложенныймногоцелевое обучение с Метод подкрепления и инновационные технические средства открывают новые перспективы и решения в области пространственно-временного прогнозирования.

ЦитатаBibTex

Язык кода:javascript
копировать
@inproceedings{STEMO2024,
  author={Wei Shao and Yufan Kang and Ziyan Peng and Xiao Xiao and Lei Wang and Yuhui Yang and Flora D. Salim},
  title={Spatio-temporal Early Prediction based on Multi-objective Reinforcement Learning},
  booktitle={Proceedings of the 30th ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD 2024)},
  year={2024},
  url={https://arxiv.org/html/2406.04035v1}
}

приветствую всехавтор Недавние вклады, связанные спространственно-временные данныеивременной рядзавербованIJCAISIGIRICMLа такжеKDD等顶级会议и期刊的优秀文章解读,Мы будем искренне продвигать вас,Учитесь и прогрессируйте вместе. Если вы хотите,Пожалуйста, свяжитесь с нами через личное сообщение в фоновом режиме.

Если вы считаете это полезным, пожалуйста, поделитесь им, посмотрите и поставьте лайк.

boy illustration
Неразрушающее увеличение изображений одним щелчком мыши, чтобы сделать их более четкими артефактами искусственного интеллекта, включая руководства по установке и использованию.
boy illustration
Копикодер: этот инструмент отлично работает с Cursor, Bolt и V0! Предоставьте более качественные подсказки для разработки интерфейса (создание навигационного веб-сайта с использованием искусственного интеллекта).
boy illustration
Новый бесплатный RooCline превосходит Cline v3.1? ! Быстрее, умнее и лучше вилка Cline! (Независимое программирование AI, порог 0)
boy illustration
Разработав более 10 проектов с помощью Cursor, я собрал 10 примеров и 60 подсказок.
boy illustration
Я потратил 72 часа на изучение курсорных агентов, и вот неоспоримые факты, которыми я должен поделиться!
boy illustration
Идеальная интеграция Cursor и DeepSeek API
boy illustration
DeepSeek V3 снижает затраты на обучение больших моделей
boy illustration
Артефакт, увеличивающий количество очков: на основе улучшения характеристик препятствия малым целям Yolov8 (SEAM, MultiSEAM).
boy illustration
DeepSeek V3 раскручивался уже три дня. Сегодня я попробовал самопровозглашенную модель «ChatGPT».
boy illustration
Open Devin — инженер-программист искусственного интеллекта с открытым исходным кодом, который меньше программирует и больше создает.
boy illustration
Эксклюзивное оригинальное улучшение YOLOv8: собственная разработка SPPF | SPPF сочетается с воспринимаемой большой сверткой ядра UniRepLK, а свертка с большим ядром + без расширения улучшает восприимчивое поле
boy illustration
Популярное и подробное объяснение DeepSeek-V3: от его появления до преимуществ и сравнения с GPT-4o.
boy illustration
9 основных словесных инструкций по доработке академических работ с помощью ChatGPT, эффективных и практичных, которые стоит собрать
boy illustration
Вызовите deepseek в vscode для реализации программирования с помощью искусственного интеллекта.
boy illustration
Познакомьтесь с принципами сверточных нейронных сетей (CNN) в одной статье (суперподробно)
boy illustration
50,3 тыс. звезд! Immich: автономное решение для резервного копирования фотографий и видео, которое экономит деньги и избавляет от беспокойства.
boy illustration
Cloud Native|Практика: установка Dashbaord для K8s, графика неплохая
boy illustration
Краткий обзор статьи — использование синтетических данных при обучении больших моделей и оптимизации производительности
boy illustration
MiniPerplx: новая поисковая система искусственного интеллекта с открытым исходным кодом, спонсируемая xAI и Vercel.
boy illustration
Конструкция сервиса Synology Drive сочетает проникновение в интрасеть и синхронизацию папок заметок Obsidian в облаке.
boy illustration
Центр конфигурации————Накос
boy illustration
Начинаем с нуля при разработке в облаке Copilot: начать разработку с минимальным использованием кода стало проще
boy illustration
[Серия Docker] Docker создает мультиплатформенные образы: практика архитектуры Arm64
boy illustration
Обновление новых возможностей coze | Я использовал coze для создания апплета помощника по исправлению домашних заданий по математике
boy illustration
Советы по развертыванию Nginx: практическое создание статических веб-сайтов на облачных серверах
boy illustration
Feiniu fnos использует Docker для развертывания личного блокнота Notepad
boy illustration
Сверточная нейронная сеть VGG реализует классификацию изображений Cifar10 — практический опыт Pytorch
boy illustration
Начало работы с EdgeonePages — новым недорогим решением для хостинга веб-сайтов
boy illustration
[Зона легкого облачного игрового сервера] Управление игровыми архивами
boy illustration
Развертывание SpringCloud-проекта на базе Docker и Docker-Compose