Query queues
このトピックでは、StarRocks におけるクエリキューの管理方法について説明します。
v2.5 から、StarRocks はクエリキューをサポートしています。クエリキューが有効な場合、StarRocks は同時実行のしきい値やリソース制限に達したときに自動的に受信クエリをキューに入れ、過負荷の悪化を回避します。保留中のクエリは、実行を開始するのに十分な計算リソースが利用可能になるまでキューで待機します。v3.1.4 以降、StarRocks はリソースグループレベルでのクエリキューの設定をサポートしています。
CPU 使用率、メモリ使用率、クエリの同時実行数にしきい値を設定して、クエリキューをトリガーできます。
ロードマップ:
| バージョン | グローバルクエリキュー | リソースグループレベルのクエリキュー | 集合的同時実行管理 | 動的同時実行調整 |
|---|---|---|---|---|
| v2.5 | ✅ | ❌ | ❌ | ❌ |
| v3.1.4 | ✅ | ✅ | ✅ | ✅ |
クエリキューを有効にする
クエリキューはデフォルトで無効になっています。INSERT ロード、SELECT クエリ、および統計クエリに対して、対応するグローバルセッション変数を設定することで、グローバルまたはリソースグループレベルのクエリキューを有効にできます。
グローバルクエリキューを有効にする
- ロードタスクのクエリキューを有効にする:
SET GLOBAL enable_query_queue_load = true;
- SELECT クエリのクエリキューを有効にする:
SET GLOBAL enable_query_queue_select = true;
- 統計クエリのクエリキューを有効にする:
SET GLOBAL enable_query_queue_statistic = true;
リソースグループレベルのクエリキューを有効にする
v3.1.4 以降、StarRocks はリソースグループレベルでのクエリキューの設定をサポートしています。
リソースグループレベルのクエリキューを有効にするには、上記のグローバルセッション変数に加えて enable_group_level_query_queue を設定する必要があります。
SET GLOBAL enable_group_level_query_queue = true;
リソースしきい値を指定する
グローバルクエリキューのリソースしきい値を指定する
次のグローバルセッション変数を使用して、クエリキューをトリガーするしきい値を設定できます。
| 変数 | デフォルト | 説明 |
|---|---|---|
| query_queue_concurrency_limit | 0 | BE 上の同時クエリの上限。0 より大きく設定された場合にのみ有効です。0 に設定すると制限がないことを示します。 |
| query_queue_mem_used_pct_limit | 0 | BE 上のメモリ使用率の上限。0 より大きく設定された場合にのみ有効です。範囲: [0, 1]。0 に設定すると制限がないことを示します。 |
| query_queue_cpu_used_permille_limit | 0 | BE 上の CPU 使用率のパーミル (CPU 使用率 * 1000) の上限。0 より大きく設定された場合にのみ有効です。範囲: [0, 1000]。0 に設定すると制限がないことを示します。 |
注意
デフォルトでは、BE は 1 秒間隔でリソース使用状況を FE に報告します。この間隔は、BE の設定項目
report_resource_usage_interval_msを設定することで変更できます。
リソースグループレベルのクエリキューのリソースしきい値を指定する
v3.1.4 以降、リソースグループを作成する際に個別の同時実行制限 (concurrency_limit) と CPU コア制限 (max_cpu_cores) を設定できます。クエリが開始されると、グローバルまたはリソースグループレベルのいずれかでリソース消費がしきい値を超えた場合、そのクエリはすべてのリソース消費がしきい値内に収まるまでキューに入れられます。
| 変数 | デフォルト | 説明 |
|---|---|---|
| concurrency_limit | 0 | 単一の BE ノード上のリソースグループの同時実行制限。0 より大きく設定された場合にのみ有効です。 |
| max_cpu_cores | 0 | 単一の BE ノード上のこのリソースグループの CPU コア制限。0 より大きく設定された場合にのみ有効です。範囲: [0, avg_be_cpu_cores]。avg_be_cpu_cores はすべての BE ノードの平均 CPU コア数を表します。 |
各 BE ノード上の各リソースグループのリソース使用情報を表示するには、View Resource Group Usage Information を参照してください。
クエリの同時実行を管理する
実行中のクエリの数 (num_running_queries) がグローバルまたはリソースグループの concurrency_limit を超えると、受信クエリはキューに入れられます。num_running_queries を取得する方法は、バージョン < v3.1.4 と ≥ v3.1.4 で異なります。
-
バージョン < v3.1.4 では、
num_running_queriesはreport_resource_usage_interval_msで指定された間隔で BEs によって報告されます。そのため、num_running_queriesの変化の特定に遅延が生じる可能性があります。たとえば、BEs によって報告されたnum_running_queriesがグローバルまたはリソースグループのconcurrency_limitを超えていない場合でも、次の報告前に受信クエリが到着してconcurrency_limitを超えた場合、これらの受信クエリはキューに入れずに実行されます。 -
バージョン ≥ v3.1.4 では、すべての実行中のクエリは Leader FE によって集合的に管理されます。各 Follower FE はクエリの開始または終了時に Leader FE に通知し、StarRocks が
concurrency_limitを超えるクエリの急増に対応できるようにします。
クエリキューを設定する
次のグローバルセッション変数を使用して、クエリキューの容量とキュー内のクエリの最大タイムアウトを設定できます。
| 変数 | デフォルト | 説明 |
|---|---|---|
| query_queue_max_queued_queries | 1024 | キュー内のクエリの上限。このしきい値に達すると、受信クエリは拒否されます。0 より大きく設定された場合にのみ有効です。 |
| query_queue_pending_timeout_second | 300 | キュー内の保留中のクエリの最大タイムアウト。このしきい値に達すると、対応するクエリは拒否されます。単位: 秒。 |
クエリの同時実行の動的調整を設定する
バージョン v3.1.4 以降、クエリキューによって管理され、Pipeline Engine によって実行されるクエリに対して、StarRocks は現在の実行中のクエリの数 num_running_queries、フラグメントの数 num_fragments、およびクエリの同時実行 pipeline_dop に基づいて、受信クエリのクエリ同時実行 pipeline_dop を動的に調整できます。これにより、スケジューリングのオーバーヘッドを最小限に抑えながらクエリの同時実行を動的に制御し、最適な BE リソースの利用を確保できます。フラグメントとクエリの同時実行 pipeline_dop についての詳細は、Query Management - Adjusting Query Concurrency を参照してください。
クエリキューの各クエリに対して、StarRocks は単一の BE 上のクエリの並行フラグメントを表すドライバーの概念を維持します。その論理値 num_drivers は、単一の BE 上のそのクエリのすべてのフラグメントの総同時実行を表し、num_fragments * pipeline_dop に等しいです。新しいクエリが到着すると、StarRocks は次のルールに基づいてクエリの同時実行 pipeline_dop を調整します。
- 実行中のドライバーの数
num_driversが同時ドライバーの低水準制限query_queue_driver_low_waterを超えるほど、クエリの同時実行pipeline_dopは低く調整されます。 - StarRocks は、クエリの同時ドライバーの高水準制限
query_queue_driver_high_water以下に実行中のドライバーの数num_driversを抑制します。
次のグローバルセッション変数を使用して、クエリの同時実行 pipeline_dop の動的調整を設定できます。
| 変数 | デフォルト | 説明 |
|---|---|---|
| query_queue_driver_high_water | -1 | クエリの同時ドライバーの高水準制限。非負の値に設定された場合にのみ有効です。0 に設定すると、avg_be_cpu_cores * 16 に相当し、avg_be_cpu_cores はすべての BE ノードの平均 CPU コア数を表します。0 より大きい値に設定すると、その値が直接使用されます。 |
| query_queue_driver_low_water | -1 | クエリの同時ドライバーの低水準制限。非負の値に設定された場合にのみ有効です。0 に設定すると、avg_be_cpu_cores * 8 に相当します。0 より大きい値に設定すると、その値が直接使用されます。 |
クエリキューを監視する
次の方法を使用して、クエリキューに関連する情報を表示できます。
SHOW PROC
SHOW PROC を使用して、BE ノードの実行中のクエリの数、メモリおよび CPU の使用状況を確認できます。
mysql> SHOW PROC '/backends'\G
*************************** 1. row ***************************
...
NumRunningQueries: 0
MemUsedPct: 0.79 %
CpuUsedPct: 0.0 %
SHOW PROCESSLIST
SHOW PROCESSLIST を使用して、クエリがキューに入っているかどうか (IsPending が true の場合) を確認できます。
mysql> SHOW PROCESSLIST;
+------+------+---------------------+-------+---------+---------------------+------+-------+-------------------+-----------+
| Id | User | Host | Db | Command | ConnectionStartTime | Time | State | Info | IsPending |
+------+------+---------------------+-------+---------+---------------------+------+-------+-------------------+-----------+
| 2 | root | xxx.xx.xxx.xx:xxxxx | | Query | 2022-11-24 18:08:29 | 0 | OK | SHOW PROCESSLIST | false |
+------+------+---------------------+-------+---------+---------------------+------+-------+-------------------+-----------+
FE 監査ログ
FE 監査ログファイル fe.audit.log を確認できます。フィールド PendingTimeMs は、クエリがキューで待機した時間を示し、その単位はミリ秒です。
監視メトリクス
Monitor and Alert 機能を使用して、StarRocks のクエリキューのメトリクスを取得できます。次の FE メトリクスは、各 FE ノードの統計データに基づいています。
| メトリクス | 単位 | タイプ | 説明 |
|---|---|---|---|
| starrocks_fe_query_queue_pending | カウント | 瞬時値 | キュー内のクエリの現在の数。 |
| starrocks_fe_query_queue_total | カウント | 瞬時値 | 歴史的にキューに入れられたクエリの総数 (現在実行中のものを含む)。 |
| starrocks_fe_query_queue_timeout | カウント | 瞬時値 | キュー内でタイムアウトしたクエリの総数。 |
| starrocks_fe_resource_group_query_queue_total | カウント | 瞬時値 | このリソースグループで歴史的にキューに入れられたクエリの総数 (現在実行中のものを含む)。name ラベルはリソースグループの名前を示します。このメトリクスは v3.1.4 以降でサポートされています。 |
| starrocks_fe_resource_group_query_queue_pending | カウント | 瞬時値 | このリソースグループのキュー内のクエリの数。name ラベルはリソースグループの名前を示します。このメトリクスは v3.1.4 以降でサポートされています。 |
| starrocks_fe_resource_group_query_queue_timeout | カウント | 瞬時値 | このリソースグループのキュー内でタイムアウトしたクエリの数。name ラベルはリソースグループの名前を示します。このメトリクスは v3.1.4 以降でサポートされています。 |
SHOW RUNNING QUERIES
v3.1.4 以降、StarRocks は SQL ステートメント SHOW RUNNING QUERIES をサポートしており、各クエリのキュー情報を表示するために使用されます。各フィールドの意味は次のとおりです。
QueryId: クエリの ID。ResourceGroupId: クエリがヒットしたリソースグループの ID。ユーザー定義のリソースグループにヒットしない場合は "-" と表示されます。StartTime: クエリの開始時間。PendingTimeout: キュー内で PENDING クエリがタイムアウトする時間。QueryTimeout: クエリがタイムアウトする時間。State: クエリのキュー状態で、"PENDING" はキュー内にあることを示し、"RUNNING" は現在実行中であることを示します。Slots: クエリによって要求される論理リソース量で、現在は1に固定されています。Frontend: クエリを開始した FE ノード。FeStartTime: クエリを開始した FE ノードの開始時間。
例:
MySQL [(none)]> SHOW RUNNING QUERIES;
+--------------------------------------+-----------------+---------------------+---------------------+---------------------+-----------+-------+---------------------------------+---------------------+
| QueryId | ResourceGroupId | StartTime | PendingTimeout | QueryTimeout | State | Slots | Frontend | FeStartTime |
+--------------------------------------+-----------------+---------------------+---------------------+---------------------+-----------+-------+---------------------------------+---------------------+
| a46f68c6-3b49-11ee-8b43-00163e10863a | - | 2023-08-15 16:56:37 | 2023-08-15 17:01:37 | 2023-08-15 17:01:37 | RUNNING | 1 | 127.00.00.01_9010_1692069711535 | 2023-08-15 16:37:03 |
| a6935989-3b49-11ee-935a-00163e13bca3 | 12003 | 2023-08-15 16:56:40 | 2023-08-15 17:01:40 | 2023-08-15 17:01:40 | RUNNING | 1 | 127.00.00.02_9010_1692069658426 | 2023-08-15 16:37:03 |
| a7b5e137-3b49-11ee-8b43-00163e10863a | 12003 | 2023-08-15 16:56:42 | 2023-08-15 17:01:42 | 2023-08-15 17:01:42 | PENDING | 1 | 127.00.00.03_9010_1692069711535 | 2023-08-15 16:37:03 |
+--------------------------------------+-----------------+---------------------+---------------------+---------------------+-----------+-------+---------------------------------+---------------------+