ClickHouse(12) Подробный анализ AggregatingMergeTree в механизме таблиц семейства MergeTree дерева слияния ClickHouse
ClickHouse(12) Подробный анализ AggregatingMergeTree в механизме таблиц семейства MergeTree дерева слияния ClickHouse

Движок AggregatingMergeTree наследует от MergeTree и изменяет логику слияния фрагментов данных. ClickHouse заменит все строки с одним и тем же первичным ключом (точнее, ключом сортировки) внутри фрагмента данных в одну строку, которая будет хранить статус ряда агрегатных функций.

Таблицу AggregatingMergeTree можно использовать для статистического агрегирования дополнительных данных, включая агрегирование данных материализованных представлений.

Для обработки всех столбцов движок использует следующие типы:

  • AggregateFunction
  • SimpleAggregateFunction

AggregatingMergeTree подходит для ситуаций, когда количество строк можно уменьшить по определенным правилам.

Синтаксис создания таблицы

Язык кода:sql
копировать
CREATE TABLE [IF NOT EXISTS] [db.]table\_name [ON CLUSTER cluster]

(

    name1 [type1] [DEFAULT|MATERIALIZED|ALIAS expr1],

    name2 [type2] [DEFAULT|MATERIALIZED|ALIAS expr2],

    ...

) ENGINE = AggregatingMergeTree()

[PARTITION BY expr]

[ORDER BY expr]

[SAMPLE BY expr]

[TTL expr]

[SETTINGS name=value, ...]

AggregatingMergeTreeПараметры таблицы иMergeTreeтаблица соответствует。MergeTreeДля анализа механизма таблицы см.ClickHouse(09) Подробный анализ MergeTree дерева слияния ClickHouse Механизм таблиц семейства MergeTree

Запрос и вставка данных

Чтобы вставить данные, используйте оператор INSERT или SELECT с агрегатной функцией -State-. При запросе данных из таблицы AggregatingMergeTree необходимо использовать предложение GROUP BY и использовать ту же агрегатную функцию, что и при вставке, но суффикс следует изменить на -Merge.

Для результатов запросов SELECT значения типа AggregateFunction реализуют определенное двоичное представление для всех выходных форматов ClickHouse. При выполнении дампа данных, например, с использованием формата TabSeparated для запроса SELECT, выгруженные данные также можно напрямую импортировать обратно с помощью инструкции INSERT.

Например, следующий пример.

Язык кода:sql
копировать
-- Создайте материализованное представление AggregatingMergeTree.

CREATE MATERIALIZED VIEW test.basic

ENGINE = AggregatingMergeTree() PARTITION BY toYYYYMM(StartDate) ORDER BY (CounterID, StartDate)

AS SELECT

    CounterID,

    StartDate,

    sumState(Sign)    AS Visits,

    uniqState(UserID) AS Users

FROM test.visits

GROUP BY CounterID, StartDate;



--К test.visits Вставьте данные в таблицу, данные будут вставлены в таблицу и представление одновременно, а представление test.basic Данные внутри будут агрегированы.



INSERT INTO test.visits ...



-- Чтобы получить агрегированные данные, вам необходимо выполнить SELECT, аналогичный представлению test.basic. ... GROUP BY ...такой запрос



SELECT

    StartDate,

    sumMerge(Visits) AS Visits,

    uniqMerge(Users) AS Users

FROM test.basic

GROUP BY StartDate

ORDER BY StartDate;

Логика обработки данных

Наконец, давайте подведем итог логике обработки AggregatingMergeTree.

  1. Используйте ключ сортировки ORDER BY в качестве ключа условия для агрегированных данных.
  2. Используйте тип поля AggregateFunction, чтобы определить тип агрегатной функции и поля агрегата.
  3. Логика расчета агрегации сработает только при объединении разделов.
  4. Агрегируйте данные в единицах разделов данных. При объединении разделов данные с одинаковым ключом агрегирования в одном разделе данных будут объединены и рассчитаны, но данные между разными разделами не будут рассчитаны.
  5. При выполнении вычисления данных, поскольку данные в разделе отсортированы на основе ORBER BY, можно найти данные, которые находятся рядом и имеют тот же ключ агрегирования.
  6. При агрегировании данных несколько строк данных с одинаковым ключом агрегации в одном разделе будут объединены в одну строку. Для этих полей, не являющихся первичным ключом и не относящихся к AggregateFunction, будет использоваться значение первой строки данных.
  7. Поля типа AggregateFunction используют двоичное хранилище.,При записи данных,Нужно позвонить\Функция состояния при запросе данных необходимо вызвать соответствующую \Mergeфункция。в,\*Указывает агрегатную функцию, используемую при определении.
  8. AggregatingMergeTree обычно используется в качестве табличного движка для материализованных представлений и используется совместно с обычным MergeTree.

Серия статей

https://cloud.tencent.com/developer/column/96434?from_column=20421&from=20421

Исходная статья:ClickHouse(12) Подробный анализ AggregatingMergeTree в механизме таблиц семейства MergeTree дерева слияния ClickHouse

boy illustration
Неразрушающее увеличение изображений одним щелчком мыши, чтобы сделать их более четкими артефактами искусственного интеллекта, включая руководства по установке и использованию.
boy illustration
Копикодер: этот инструмент отлично работает с Cursor, Bolt и V0! Предоставьте более качественные подсказки для разработки интерфейса (создание навигационного веб-сайта с использованием искусственного интеллекта).
boy illustration
Новый бесплатный RooCline превосходит Cline v3.1? ! Быстрее, умнее и лучше вилка Cline! (Независимое программирование AI, порог 0)
boy illustration
Разработав более 10 проектов с помощью Cursor, я собрал 10 примеров и 60 подсказок.
boy illustration
Я потратил 72 часа на изучение курсорных агентов, и вот неоспоримые факты, которыми я должен поделиться!
boy illustration
Идеальная интеграция Cursor и DeepSeek API
boy illustration
DeepSeek V3 снижает затраты на обучение больших моделей
boy illustration
Артефакт, увеличивающий количество очков: на основе улучшения характеристик препятствия малым целям Yolov8 (SEAM, MultiSEAM).
boy illustration
DeepSeek V3 раскручивался уже три дня. Сегодня я попробовал самопровозглашенную модель «ChatGPT».
boy illustration
Open Devin — инженер-программист искусственного интеллекта с открытым исходным кодом, который меньше программирует и больше создает.
boy illustration
Эксклюзивное оригинальное улучшение YOLOv8: собственная разработка SPPF | SPPF сочетается с воспринимаемой большой сверткой ядра UniRepLK, а свертка с большим ядром + без расширения улучшает восприимчивое поле
boy illustration
Популярное и подробное объяснение DeepSeek-V3: от его появления до преимуществ и сравнения с GPT-4o.
boy illustration
9 основных словесных инструкций по доработке академических работ с помощью ChatGPT, эффективных и практичных, которые стоит собрать
boy illustration
Вызовите deepseek в vscode для реализации программирования с помощью искусственного интеллекта.
boy illustration
Познакомьтесь с принципами сверточных нейронных сетей (CNN) в одной статье (суперподробно)
boy illustration
50,3 тыс. звезд! Immich: автономное решение для резервного копирования фотографий и видео, которое экономит деньги и избавляет от беспокойства.
boy illustration
Cloud Native|Практика: установка Dashbaord для K8s, графика неплохая
boy illustration
Краткий обзор статьи — использование синтетических данных при обучении больших моделей и оптимизации производительности
boy illustration
MiniPerplx: новая поисковая система искусственного интеллекта с открытым исходным кодом, спонсируемая xAI и Vercel.
boy illustration
Конструкция сервиса Synology Drive сочетает проникновение в интрасеть и синхронизацию папок заметок Obsidian в облаке.
boy illustration
Центр конфигурации————Накос
boy illustration
Начинаем с нуля при разработке в облаке Copilot: начать разработку с минимальным использованием кода стало проще
boy illustration
[Серия Docker] Docker создает мультиплатформенные образы: практика архитектуры Arm64
boy illustration
Обновление новых возможностей coze | Я использовал coze для создания апплета помощника по исправлению домашних заданий по математике
boy illustration
Советы по развертыванию Nginx: практическое создание статических веб-сайтов на облачных серверах
boy illustration
Feiniu fnos использует Docker для развертывания личного блокнота Notepad
boy illustration
Сверточная нейронная сеть VGG реализует классификацию изображений Cifar10 — практический опыт Pytorch
boy illustration
Начало работы с EdgeonePages — новым недорогим решением для хостинга веб-сайтов
boy illustration
[Зона легкого облачного игрового сервера] Управление игровыми архивами
boy illustration
Развертывание SpringCloud-проекта на базе Docker и Docker-Compose