STREAM LOAD
STREAM LOADを使用すると、ローカルファイルシステムまたはストリーミングデータソースからデータをロードできます。ロードジョブを送信すると、システムはジョブを同期的に実行し、ジョブの完了後にジョブの結果を返します。ジョブの結果に基づいて、ジョブが成功したかどうかを判断できます。Stream Loadのアプリケーションシナリオ、制限、およびサポートされているデータファイル形式については、以下を参照してください。Stream Loadを介したローカルファイルシステムからのロード。
この例では、StarRocks Basics クイックスタートで紹介されている Local Climatological Data (LCD) データセットを使用しています。データをロードして、自分で例を試すことができます。
v3.2.7以降、Stream Loadは転送中のJSONデータの圧縮をサポートし、ネットワーク帯域幅のオーバーヘッドを削減します。ユーザーは、パラメーターを使用して異なる圧縮アルゴリズムを指定できます。compressionおよびContent-Encoding。サポートされている圧縮アルゴリズムには、GZIP、BZIP2、LZ4_FRAME、ZSTDが含まれます。詳細については、以下を参照してください。data_desc。
v3.4.0以降、システムは複数のStream Loadリクエストのマージをサポートします。詳細については、以下を参照してください。マージコミットパラメーター。
- Stream Loadを使用してネイティブテーブルにデータをロードすると、そのテーブル上に作成されたマテリアライズドビューのデータも更新されます。
- ネイティブテーブルにデータをロードできるのは、それらのテーブルに対するINSERT権限を持つユーザーのみです。INSERT権限がない場合は、以下の指示に従って、GRANTを使用して、クラスターへの接続に使用するユーザーにINSERT権限を付与してください。
構文
curl --location-trusted -u <username>:<password> -XPUT <url>
(
data_desc
)
[opt_properties]
このトピックでは、curlを例として、Stream Loadを使用してデータをロードする方法を説明します。curlの他に、他のHTTP互換ツールや言語を使用してStream Loadを実行することもできます。ロード関連のパラメーターはHTTPリクエストヘッダーフィールドに含まれます。これらのパラメーターを入力する際は、以下の点に注意してください。
-
このトピックで示されている ように、チャンク転送エンコーディングを使用できます。チャンク転送エンコーディングを選択しない場合は、
Content-Lengthヘッダーフィールドを入力して、転送されるコンテンツの長さを指定し、データの整合性を確保する必要があります。注記curlを使用してStream Loadを実行すると、システムは自動的にContent-Lengthヘッダーフィールドを追加するため、手動で入力する必要はありません。 -
Expectヘッダーフィールドを追加し、その値を100-continueと指定する必要があります。例:"Expect:100-continue"。これは、ジョブ要求が拒否された場合に、不要なデータ転送を防ぎ、リソースのオーバーヘッドを削減するのに役立ちます。
StarRocksでは、一部のリテラルがSQL言語の予約済みキーワードとして使用されることに注意してください。これらのキーワードをSQLステートメントで直接使用しないでください。SQLステートメントでそ のようなキーワードを使用したい場合は、バッククォート (`) で囲んでください。詳細については、キーワード。
パラメーター
ユーザー名とパスワード
クラスターへの接続に使用するアカウントのユーザー名とパスワードを指定します。これは必須パラメーターです。パスワードが設定されていないアカウントを使用する場合は、<username>:のみを入力する必要があります。
XPUT
HTTPリクエストメソッドを指定します。これは必須パラメーターです。Stream LoadはPUTメソッドのみをサポートします。
URL
テーブルのURLを指定します。構文：
http://<fe_host>:<fe_http_port>/api/<database_name>/<table_name>/_stream_load
以下の表は、URL内のパラメーターについて説明しています。
| パラメーター | 必須 | 説明 |
|---|---|---|
| fe_host | はい | クラスター内のFEノードのIPアドレス。 注 ロードジョブを特定のBEまたはCNノードに送信する場合、そのBEまたはCNノードのIPアドレスを入力する必要があります。 |
| database_name | はい | テーブルが属するデータベースの名前。 |
| table_name | はい | テーブルの名前。 |
SHOW FRONTENDS を使用して、FE ノードの IP アドレスと HTTP ポートを確認できます。
data_desc
ロードするデータファイルを記述します。data_descディスクリプタには、データファイルの名前、形式、列区切り文字、行区切り文字、宛先パーティション、およびテーブルに対する列マッピングを含めることができます。構文：
-T <file_path>
-H "format: CSV | JSON"
-H "column_separator: <column_separator>"
-H "row_delimiter: <row_delimiter>"
-H "columns: <column1_name>[, <column2_name>, ... ]"
-H "partitions: <partition1_name>[, <partition2_name>, ...]"
-H "temporary_partitions: <temporary_partition1_name>[, <temporary_partition2_name>, ...]"
-H "jsonpaths: [ \"<json_path1>\"[, \"<json_path2>\", ...] ]"
-H "strip_outer_array: true | false"
-H "json_root: <json_path>"
-H "ignore_json_size: true | false"
-H "compression: <compression_algorithm> | Content-Encoding: <compression_algorithm>"
のパラメータは、data_descディスクリプタは、共通パラメータ、CSVパラメータ、およびJSONパラメータの3つのタイプに分類できます。
共通パラメータ
| パラメータ | 必須 | 説明 |
|---|---|---|
| file_path | はい | データファイルの保存パス。ファイル名の拡張子を含めることができます。 |
| format | いいえ | データファイルの形式。有効な値: CSV および JSON。デフォルト値: CSV。 |
| partitions | いいえ | データファイルをロードしたいパーティション。デフォルトでは、このパラメータを指定しない場合、StarRocks はデータファイルを StarRocks テーブルのすべてのパーティションにロードします。 |
| temporary_partitions | いいえ | データファイルをロードしたい temporary partition の名前。複数の一時パーティションを指定する場合は、カンマ (,) で区切る必要があります。 |
| columns | いいえ | データファイルと StarRocks テーブル間の列マッピング。 データファイルのフィールドが StarRocks テーブルの列に順番にマッピングできる場合、このパラメータを指定する必要はありません。代わりに、このパラメータを使用してデータ変換を実装できます。たとえば、CSV データファイルをロードし、そのファイルが StarRocks テーブルの id および city 列に順番にマッピングできる 2 つの列で構成されている場合、"columns: city,tmp_id, id = tmp_id * 100" と指定できます。詳細については、このトピックの Column mapping セクションを参照してください。 |
CSV パラメータ
| パラメータ | 必須 | 説明 |
|---|---|---|
| column_separator | いいえ | データファイルでフィールドを区切るために使用される文字。指定しない場合、このパラメータはデフォルトで \t（タブ）になります。このパラメータで指定する列セパレータがデータファイルで使用されている列セパレータと同じであることを確認してください。 注意 - CSV データの場合、カンマ (,) やタブ、パイプ (|) などの UTF-8 文字列をテキストデリミタとして使用できますが、その長さは 50 バイトを超えてはなりません。 - データファイルが連続した非表示文字（例： \r\n）を列区切り文字として使用している場合、このパラメータを \\x0D0A に設定する必要があります。 |
| row_delimiter | いいえ | データファイルで行を区切るために使用される文字。指定しない場合、このパラメータはデフォルトで \n になります。注意 データファイルが連続して非表示文字（例： \r\n）を行区切り文字として使用している場合、このパラメータを\\x0D0Aに設定する必要があります。 |
| skip_header | いいえ | データファイルが CSV 形式の場合、データファイルの最初の数行をスキップするかどうかを指定します。タイプ: INTEGER。デフォルト値: 0。一部の CSV 形式のデータファイルでは、最初の数行が列名や列データ型などのメタデータを定義するために使用されます。 skip_header パラメータを設定することで 、StarRocks がデータロード中にデータファイルの最初の数行をスキップするようにできます。たとえば、このパラメータを 1 に設定すると、StarRocks はデータロード中にデータファイルの最初の行をスキップします。データファイルの最初の数行は、ロードコマンドで指定した行セパレータで区切られている必要があります。 |
| trim_space | いいえ | データファイルが CSV 形式の場合、データファイルから列セパレータの前後のスペースを削除するかどうかを指定します。タイプ: BOOLEAN。デフォルト値: false。一部のデータベースでは、データを CSV 形式のデータファイルとしてエクスポートする際に、列セパレータにスペースが追加されます。これらのスペースは、その位置に応じて先行スペースまたは後続スペースと呼ばれます。 trim_space パラメータを設定することで、StarRocks がデータロード中にこれらの不要なスペースを削除するようにできます。StarRocks は、 enclose で指定された文字で囲まれたフィールド内のスペース（先行スペースおよび後続スペースを含む）を削除しないことに注意してください。たとえば、次のフィールド値は、列セパレータとしてパイプ (|) を使用し、enclose で指定された文字として二重引用符 (") を使用しています:|"Love StarRocks"| |" Love StarRocks "| | "Love StarRocks" | trim_space を true に設定すると、StarRocks は前述のフィールド値を次のように処理し ます:|"Love StarRocks"| |" Love StarRocks "| |"Love StarRocks"| |
| enclose | いいえ | データファイルが CSV 形式の場合、RFC4180 に従ってフィールド値を囲むために使用される文字を指定します。タイプ: 単一バイト文字。デフォルト値: NONE。最も一般的な文字は、単一引用符 (') および二重引用符 (") です。enclose で指定された文字で囲まれたすべての特殊文字（行セパレータや列セパレータを含む）は通常の記号と見なされます。StarRocks は、enclose で指定された文字として任意の単一バイト文字を指定できるため、RFC4180 よりも多くのことができます。フィールド値に enclose で指定された文字が含まれている場合、同じ文字を使用してその enclose で指定された文字をエスケープできます。たとえば、enclose を " に設定し、フィールド値が a "quoted" c の場合、このフィールド値をデータファイルに "a ""quoted"" c" として入力できます。 |
| escape | いいえ | 行セパレータ、列セパレータ、エスケープ文字、および enclose で指定された文字などのさまざまな特殊文字をエスケープするために使用される文字を指定します。これらは StarRocks によって一般的な文字と見なされ、それらが存在するフィールド値の一部として解析されます。タイプ: 単一バイト文字。デフォルト値: NONE。最も一般的な文字はスラッシュ (\) であり、SQL ステートメントではダブルスラッシュ (\\) として記述する必要があります。注意 escape で指定された文字は、各ペアの enclose で指定された文字の内側と外側の両方に適用されます。次の 2 つの例を示します:
|
- CSVデータの場合、カンマ (,)、タブ、パイプ (|) などのUTF-8文字列をテキスト区切り文字として使用できます。その長さは50バイトを超えてはなりません。
- Null値は
\Nを使用して示されます。たとえば、データファイルが3つの列で構成され、そのデータファイルからのレコードが最初の列と3番目の列にデータを保持しているが、2番目の列にはデータがないとします。この状況では、2番目の列でnull値を示すために\Nを使用する必要があります。これは、レコードがa,\N,bの代わりにa,,bとしてコンパイルされなければならないことを意味します。a,,bは、レコードの2番目の列が空の文字列を保持していることを示します。 - を含むフォーマットオプションは、
skip_header、trim_space、enclose、およびescapeは、v3.0以降でサポートされています。
JSON パラメーター
| パラメータ | 必須 | 説明 |
|---|---|---|
| jsonpaths | いいえ | JSON データファイルからロードしたいキーの名前。マッチモードを使用して JSON データをロードする場合にのみ、このパラメータを指定する必要があります。このパラメータの値は JSON 形式です。Configure column mapping for JSON data loading を参照してください。 |
| strip_outer_array | いいえ | 最外部の配列構造を削除するかどうかを指定します。有効な値: true および false。デフォルト値: false。実際のビジ ネスシナリオでは、JSON データには [] で示される最外部の配列構造がある場合があります。この場合、このパラメータを true に設定することをお勧めします。これにより、StarRocks は最外部の [] を削除し、各内部配列を別々のデータレコードとしてロードします。このパラメータを false に設定すると、StarRocks は JSON データファイル全体を 1 つの配列として解析し、その配列を単一のデータレコードとしてロードします。たとえば、JSON データが [ {"category" : 1, "author" : 2}, {"category" : 3, "author" : 4} ] の場合、このパラメータを true に設定すると、{"category" : 1, "author" : 2} と {"category" : 3, "author" : 4} が別々のデータレコードとして解析され、StarRocks テーブルの別々の行にロードされます。 |
| json_root | いいえ | JSON データファイルからロードしたい JSON データのルート要素。マッチモードを使用して JSON データをロードする場合にのみ、このパラメータを指定する必要があります。このパラメータの値は有効な JsonPath 文字列です。デフォルトでは、このパラメータの値は空であり、JSON データファイルのすべてのデータがロードされることを示します。詳細については、このトピックの「Load JSON data using matched mode with root element specified」セクションを参照してください。 |
| ignore_json_size | いいえ | HTTP リクエスト内の JSON 本体のサイズをチェックするかどうかを指定します。 注意 デフォルトでは、HTTP リクエスト内の JSON 本体のサイズは 100 MB を超えることはできません。JSON 本体が 100 MB を超える場合、エラー "The size of this batch exceed the max size [104857600] of json type data data [8617627793]. Set ignore_json_size to skip check, although it may lead huge memory consuming." が報告されます。このエラーを防ぐために、HTTP リクエストヘッダーに "ignore_json_size:true" を追加して、StarRocks に JSON 本体のサイズをチェックしないように指示できます。 |
| compression, Content-Encoding | いいえ | データ転送中に適用されるエンコーディングアルゴリズム。サポートされているアルゴリズムには、GZIP、BZIP2、LZ4_FRAME、および ZSTD が含まれます。例: curl --location-trusted -u root: -v '<table_url>' \-X PUT -H "expect:100-continue" \-H 'format: json' -H 'compression: lz4_frame' -T ./b.json.lz4。 |
JSONデータをロードする際、JSONオブジェクトあたりのサイズが4 GBを超えないことにも注意してください。JSONデータファイル内の個々のJSONオブジェクトのサイズが4 GBを超えると、 このパーサーは、そのサイズのドキュメントをサポートできません。 というエラーが報告されます。
マージコミットパラメーター
指定された時間枠内で複数の同時Stream Loadリクエストに対してマージコミットを有効にし、それらを単一の トランザクションにマージします。
マージコミット最適化は、単一のテーブルで同時Stream Loadジョブがあるシナリオに適していることに注意してください。並行度が1の場合は推奨されません。また、merge_commit_asyncをfalseに、merge_commit_interval_msを大きな値に設定する前に慎重に検討してください。これらはロードパフォーマンスの低下を引き起こす可能性があります。
| パラメータ | 必須 | 説明 |
|---|---|---|
| enable_merge_commit | いいえ | ロードリクエストに対して Merge Commit を有効にするかどうか。有効な値: true および false (デフォルト)。 |
| merge_commit_async | いいえ | サーバーの返却モード。有効な値:
|
| merge_commit_interval_ms | はい | マージ時間ウィンドウのサイズ。単位: ミリ秒。Merge Commit は、このウィンドウ内で受信したロードリクエストを単一のトランザクションにマージしようとします。ウィンドウが大きいほどマージ効率が向上しますが、レイテンシーが増加します。 |
| merge_commit_parallel | はい | 各マージウィンドウに対して作成されるロードプランの並行性の度合い。並行性は、取り込みの負荷に基づいて調整できます。リクエストが多い場合やロードするデータが多い場合は、この値を増やしてください。並行性は BE ノードの数に制限され、min(merge_commit_parallel, number of BE nodes) として計算されます。 |
- マージコミットは、同種のロードリクエストを単一のデータベースとテーブルにマージすることのみをサポートします。 同種 とは、共通パラメーター、JSON形式パラメーター、CSV形式パラメーターなど、Stream Loadパラメーターが同一であることを示しま す。
opt_properties、およびマージコミットのパラメーター。 - CSV形式のデータをロードする場合、各行が改行区切り文字で終わっていることを確認する必要があります。
skip_headerはサポートされていません。 - サーバーはトランザクションのラベルを自動的に生成します。指定された場合、それらは無視されます。
- マージコミットは、複数のロードリクエストを単一のトランザクションにマージします。いずれかのリクエストにデータ品質の問題が含まれている場合、トランザクション内のすべてのリクエストは失敗します。
opt_properties
ロードジョブ全体に適用されるオプションパラメーターを指定します。構文:
-H "label: <label_name>"
-H "where: <condition1>[, <condition2>, ...]"
-H "max_filter_ratio: <num>"
-H "timeout: <num>"
-H "strict_mode: true | false"
-H "timezone: <string>"
-H "load_mem_limit: <num>"
-H "partial_update: true | false"
-H "partial_update_mode: row | column"
-H "merge_condition: <column_name>"
次の表は、オプションパラメーターについて説明しています。
| パラメータ | 必須 | 説明 |
|---|---|---|
| label | いいえ | ロードジョブのラベル。このパラメータを指定しない場合、StarRocks はロードジョブのラベルを自動的に生成します。 StarRocks は、1 つのラベルを使用してデータバッチを複数回ロードすることを許可しません。このため、StarRocks は同じデータが繰り返しロードされるのを防ぎます。ラベルの命名規則については、System limits を参照してください。 デフォルトでは、StarRocks は、最近 3 日間に正常に完了したロードジョブのラベルを保持します。FE パラメータ label_keep_max_second を使用して、ラベルの保持期間を変更できます。 |
| where | いいえ | StarRocks が事前処理されたデータをフィルタリングする条件。StarRocks は、WHERE 句で指定されたフィルタ条件を満たす事前処理されたデータのみをロードします。 |
| max_filter_ratio | いいえ | ロードジョブの最大エラー許容度。エラー許容度は、ロードジョブによって要求されたすべてのデータレコードの中で、データ品質が不十分なためにフィルタリングされる可能性のあるデータレコードの最大割合です。有効な値: 0 から 1。デフォルト値: 0。デフォルト値 0 を保持することをお勧めします。これにより、不適格なデータレコードが検出された場合、ロードジョブが失敗し、データの正確性が保証されます。不適格なデータレコードを無視したい場合は、このパラメータを 0 より大きい値に設定できます。この方法では、データファイルに不適格なデータレコードが含まれていても、ロードジョブは成功することができます。注意 不適格なデータレコードには、WHERE 句によってフィルタリングされたデータレコードは含まれません。 |
| log_rejected_record_num | いいえ | ログに記録できる不適格なデータ行の最大数を指定します。このパラメータは v3.1 以降でサポートされています。有効な値: 0、-1、および任意の非ゼロの正の整数。デフォルト値: 0。
|
| timeout | いいえ | ロードジョブのタイムアウト期 間。有効な値: 1 から 259200。単位: 秒。デフォルト値: 600。注意 timeout パラメータに加えて、FE パラメータ stream_load_default_timeout_second を使用して、StarRocks クラスター内のすべての Stream Load ジョブのタイムアウト期間を一元的に制御できます。timeout パラメータを指定した場合、timeout パラメータで指定されたタイムアウト期間が優先されます。timeout パラメータを指定しない場合、stream_load_default_timeout_second パラメータで指定されたタイムアウト期間が優先されます。 |
| strict_mode | いいえ | strict mode を有効にするかどうかを指定します。有効な値: true および false。デフォルト値: false。値 true は strict mode を有効にし、値 false は strict mode を無効にします。 |
| timezone | いいえ | ロードジョブで使用されるタイムゾーン。デフォルト値: Asia/Shanghai。このパラメータの値は、strftime、alignment_timestamp、from_unixtime などの関数によって返される結果に影響を与えます。このパラメータで指定されたタイムゾーンは、セッションレベルのタイムゾーンです。詳細については、Configure a time zone を参照してください。 |
| load_mem_limit | いいえ | ロードジョブにプロビジョニングできる最大メモリ量。単位: バイト。デフォルトでは、ロードジョブの最大メモリサイズは 2 GB です。このパラメータの値は、各 BE または CN にプロビジョニングできる最大メモリ量を超えることはできません。 |
| partial_update | いいえ | 部分更新を使用するかどうか。有効な値: TRUE および FALSE。デフォルト値: FALSE、この機能を無効にすることを示します。 |
| partial_update_mode | いいえ | 部分更新のモードを指定します。有効な値: row および column。
|
| merge_condition | いいえ | 更新が有効になるかどうかを判断するために使用する列の名前を指定します。ソースレコードから宛先レコードへの更新は、指定された列でソースデータレコードが宛先データレコードよりも大きいか等しい値を持つ場合にのみ有効になります。StarRocks は v2.5 以降で条件付き更新をサポートしています。 注意 指定する列は主キー列であってはなりません。さらに、主キーテーブルを使用するテーブルのみが条件付き更新をサポートします。 |
列マッピン グ
CSVデータロードの列マッピングを構成する
データファイルの列がテーブルの列に順序通りに1対1でマッピングできる場合、データファイルとテーブル間の列マッピングを構成する必要はありません。
データファイルの列がテーブルの列に順序通りに1対1でマッピングできない場合、columnsパラメーターを使用して、データファイルとテーブル間の列マッピングを構成する必要があります。これには、次の2つのユースケースが含まれます。
-
列数は同じだが、列の順序が異なる場合。 また、データファイルからのデータは、対応するテーブル列にロードされる前に、関数によって計算される必要はありません。
columnsパラメーターでは、データファイルの列が配置されているのと同じ順序でテーブル列の名前を指定する必要があります。たとえば、テーブルは3つの列で構成されており、それらは
col1、col2、およびcol3の順で、データファイルも3つの列で構成されており、テーブルの列col3、col2、およびcol1に順にマッピングできます。この場合、"columns: col3, col2, col1"を指定する必要があります。 -
列の数が異なり、列の順序も異なります。また、データファイルからのデータは、対応するテーブル列にロードされる前に、関数によって計算される必要があります。
columnsパラメーターでは、データファイルの列が配置されているのと同じ順序でテーブル列の名前を指定し、データを計算するために使用する関数を指定する必要があります。2つの例を以下に示します。- テーブルは3つの列で構成されており、それらは
col1、col2、およびcol3の順です。データファイルは4つの列で構成されており、そのうち最初の3つの列はテーブルの列col1、col2、およびcol3に順にマッピングでき、4番目の列はどのテーブル列にもマッピングできません。この場合、データファイルの4番目の列に一時的な名前を指定する必要があり、その一時的な名前はどのテーブル列の名前とも異なる必要があります。たとえば、"columns: col1, col2, col3, temp"と指定できます。この場合、データファイルの4番目の列は一時的にtempと名付けられます。 - テーブルは3つの列で構成されており、それらは
year、month、およびdayの順です。データファイルは、yyyy-mm-dd hh:mm:ss形式の日付と時刻の値を格納する1つの列のみで構成されています。この場合、"columns: col, year = year(col), month=month(col), day=day(col)"と指定できます。この場合、colはデータファイル列の一時的な名前であり、関 数year = year(col)、month=month(col)、およびday=day(col)は、データファイル列colからデータを抽出し、マッピングテーブル列にデータをロードするために使用されます。たとえば、year = year(col)は、yyyyデータをデータファイル列colから抽出し、テーブル列yearにロードするために使用されます。
- テーブルは3つの列で構成されており、それらは
詳細な例については、列マッピングの構成を参照してください。
JSONデータロードの列マッピングを構成する
JSONドキュメントのキーがテーブルの列と同じ名前である場合、シンプルモードを使用してJSON形式のデータをロードできます。シンプルモードでは、jsonpathsパラメーターを指定する必要はありません。このモードでは、JSON形式のデータが中括弧{}, 例えば{"category": 1, "author": 2, "price": "3"}. この例では、category、author、およびpriceはキー名であり、これらのキーは名前によって列category、author、およびpriceに1対1でマッピングできます。
JSONドキュメントのキーがテーブルの列と異なる名前を持つ場合、マッチモードを使用してJSON形式のデータをロードできます。マッチ モードでは、jsonpathsとCOLUMNSパラメーターを使用して、JSONドキュメントとテーブル間の列マッピングを指定する必要があります。
jsonpathsパラメーターでは、JSONドキュメントに配置されている順序でJSONキーを指定します。COLUMNSパラメーターでは、JSONキーとテーブル列間のマッピングを指定します。COLUMNSパラメーターで指定された列名は、JSONキーに順序通りに1対1でマッピングされます。COLUMNSパラメーターで指定された列名は、名前によってテーブル列に1対1でマッピングされます。
マッチモードを使用してJSON形式のデータをロードする例については、マッチモードを使用したJSONデータのロードを参照してください。
戻り値
ロードジョブが完了すると、システムはジョブ結果をJSON形式で返します。例：
{
"TxnId": 1003,
"Label": "label123",
"Status": "Success",
"Message": "OK",
"NumberTotalRows": 1000000,
"NumberLoadedRows": 999999,
"NumberFilteredRows": 1,
"NumberUnselectedRows": 0,
"LoadBytes": 40888898,
"LoadTimeMs": 2144,
"BeginTxnTimeMs": 0,
"StreamLoadPlanTimeMs": 1,
"ReadDataTimeMs": 0,
"WriteDataTimeMs": 11,
"CommitAndPublishTimeMs": 16,
}
次の表は、返されるジョブ結果のパラメーターについて説明しています。
| パラメータ | 説明 |
|---|---|
| TxnId | ロードジョブのトランザクション ID。 |
| Label | ロードジョブのラベル。 |
| Status | ロードされたデータの最終ステータス。
|
| Message | ロードジョブのステータス。ロードジョブが失敗した場合、詳細な失敗原因が返されます。 |
| NumberTotalRows | 読み取られたデータレコードの総数。 |
| NumberLoadedRows | 正常にロードされたデータレコードの総数。このパラメータは、Status が Success の場合にのみ有効です。 |
| NumberFilteredRows | データ品質が不十分なためにフィルタリングされたデータレコードの数。 |
| NumberUnselectedRows | WHERE 句によってフィルタリングされたデータレコードの数。 |
| LoadBytes | ロードされたデータの量。単位: バイト。 |
| LoadTimeMs | ロードジョブにかかった時間。単位: ミリ秒。 |
| BeginTxnTimeMs | ロードジョブのトランザクションを実行するのにかかった時間。 |
| StreamLoadPlanTimeMs | ロードジョブの実行計画を生成するのにかかった時間。 |
| ReadDataTimeMs | ロードジョブのデータを読み取るのにかかった時間。 |
| WriteDataTimeMs | ロードジョブのデータを書き込むのにかかった時間。 |
| CommitAndPublishTimeMs | ロードジョブのデータをコミットおよび公開するのにかかった時間。 |
ロードジョブが失敗した場合、システムはErrorURLも返します。例：
{"ErrorURL": "http://172.26.195.68:8045/api/_load_error_log?file=error_log_3a4eb8421f0878a6_9a54df29fd9206be"}
ErrorURLは、フィルタリングされた不適格なデータレコードの詳細を取得できるURLを提供します。オプションパラメーターlog_rejected_record_numを使用して、ロードジョブの送信時に設定される、ログに記録できる不適格なデータ行の最大数を指定できます。
を実行して、フィルタリングされた不適格なデータレコードの詳細を直接表示できます。また、curl "url"を実行して、フィルタリングされた不適格なデータレコードの詳細を直接表示できます。また、wget "url"を実行して、これらのデータレコードの詳細をエクスポートすることもできます。
wget http://172.26.195.68:8045/api/_load_error_log?file=error_log_3a4eb8421f0878a6_9a54df29fd9206be
エクスポートされたデータレコードの詳細は、次のような名前のローカルファイルに保存されます。_load_error_log?file=error_log_3a4eb8421f0878a6_9a54df29fd9206be。catコマンドを使用してファイルを表示できます。
その後、ロードジョブの設定を調整し、再度ロードジョブを送信できます。
例
以下の例における <table_url_prefix> を http://<fe_host>:<fe_http_port> に置き換えてください。
CSVデータのロード
このセクションでは、CSVデータを例として、さまざまなパラメータ設定と組み合わせをどのように使用して、多様なロード要件を満たすことができるかを説明します。
タイムアウト期間の設定
データベースtest_dbには、という名前のテーブルが含まれています。table1。このテーブルは、次の3つの列で構成されています。col1、col2、およびcol3の順です。
データファイルexample1.csvも3つの列で構成されており、これらは順にcol1、col2、およびcol3のtable1にマッピングできます。
からすべてのデータをexample1.csvにtable1最大100秒以内にロードしたい場合は、次のコマンドを実行します。
curl --location-trusted -u <username>:<password> -H "label:label1" \
-H "Expect:100-continue" \
-H "timeout:100" \
-H "max_filter_ratio:0.2" \
-T example1.csv -XPUT \
<table_url_prefix>/api/test_db/table1/_stream_load
エラー許容度の設定
データベースtest_dbには、という名前のテーブルが含まれています。table2。このテーブルは、次の3つの列で構成されています。col1、col2、およびcol3の順です。
データファイルexample2.csvも3つの列で構成されており、これらは順にcol1、col2、およびcol3のtable2にマッピングできます。
からすべてのデータをexample2.csvにtable2最大エラー許容度0.2でロードしたい場合は、次のコマンドを実行します。
curl --location-trusted -u <username>:<password> -H "label:label2" \
-H "Expect:100-continue" \
-H "max_filter_ratio:0.2" \
-T example2.csv -XPUT \
<table_url_prefix>/api/test_db/table2/_stream_load
列マッピングを構成する
データベースtest_dbには、という名前のテーブルが含まれています。table3。このテーブルは3つの列で構成されており、それらはcol1、col2、col3の順です。
データファイルexample3.csvも3つの列で構成されており、それらは順にcol2、col1、col3のtable3にマッピングできます。
からすべてのデータをexample3.csvにロードしたい場合は、table3次のコマンドを実行します。
curl --location-trusted -u <username>:<password> -H "label:label3" \
-H "Expect:100-continue" \
-H "columns: col2, col1, col3" \
-T example3.csv -XPUT \
<table_url_prefix>/api/test_db/table3/_stream_load
上記の例では、example3.csvの列をtable3の列に、table3での列の配置と同じ順序でマッピングすることはできません。したがって、columnsパラメーターを使用して、example3.csvとtable3の間の列マッピングを構成する必要があります。
フィルター条件を設定する
データベースtest_dbには、という名前のテーブルが含まれています。table4。このテーブルは3つの列で構成されており、それらはcol1、col2、col3の順です。
データファイルexample4.csvも3つの列で構成されており、それらは順にcol1、col2、col3のtable4にマッピングできます。
の最初の列の値がexample4.csvと等しいデータレコードのみを20180601にロードしたい場合は、table4次のコマンドを実行します。
curl --location-trusted -u <username>:<password> -H "label:label4" \
-H "Expect:100-continue" \
-H "columns: col1, col2, col3"\
-H "where: col1 = 20180601" \
-T example4.csv -XPUT \
<table_url_prefix>/api/test_db/table4/_stream_load
上記の例では、example4.csvとtable4は、順序通りにマッピングできる列の数が同じですが、列ベースのフィルター条件を指定するにはWHERE句を使用する必要があります。そのため、columnsパラメーターを使用して、example4.csvの列の一時名を定義する必要があります。
宛先パーティションの設定
お使いのデータベースtest_dbには、table5という名前のテーブルが含まれています。このテーブルは、col1、col2、およびcol3の3つの列で構成されています。
お使いのデータファイルexample5.csvも3つの列で構成されており、これらはcol1、col2、およびcol3のtable5に順序通りにマッピングできます。
からすべてのデータをexample5.csvのパーティションp1とp2にロードする場合は、table5次のコマンドを実行します。
curl --location-trusted -u <username>:<password> -H "label:label5" \
-H "Expect:100-continue" \
-H "partitions: p1, p2" \
-T example5.csv -XPUT \
<table_url_prefix>/api/test_db/table5/_stream_load
厳密モードとタイムゾーンの設定
お使いのデータベースtest_dbには、table6という名前のテーブルが含まれています。このテーブルは、col1、col2、およびcol3の3つの列で構成されています。
お使いのデータファイルexample6.csvも3つの列で構成されており、これらはcol1、col2、およびcol3のtable6に順序通りにマッピングできます。
からすべてのデータをexample6.csvにtable6厳密モードとタイムゾーンを使用してロードする場合は、Africa/Abidjan次のコマンドを実行します。
curl --location-trusted -u <username>:<password> \
-H "Expect:100-continue" \
-H "strict_mode: true" \
-H "timezone: Africa/Abidjan" \
-T example6.csv -XPUT \
<table_url_prefix>/api/test_db/table6/_stream_load
HLL型列を含むテーブルにデータをロードする
データベースtest_dbには、という名前のテーブルが含まれています。table7。このテーブルは2つのHLL型列で構成されており、それらはcol1とcol2の順です。
データファイルexample7.csvも2つの列で構成されており、そのうち最初の列はcol1のtable7にマッピングでき、2番目の列はtable7のどの列にもマッピングできません。の最初の列の値はexample7.csvにロードされる前に、関数を使用してHLL型データに変換できます。col1のtable7。
からexample7.csvへデータをロードしたい場合は、table7次のコマンドを実行します。
curl --location-trusted -u <username>:<password> \
-H "Expect:100-continue" \
-H "columns: temp1, temp2, col1=hll_hash(temp1), col2=hll_empty()" \
-T example7.csv -XPUT \
<table_url_prefix>/api/test_db/table7/_stream_load
上記の例では、の2つの列はexample7.csvと名付けられています。temp1とtemp2は、パラメーターを使用して順にcolumnsパラメーターを使用して順に名前が付けられています。次に、関数を使用してデータを次のように変換します。
- 関数は、
hll_hashの値をHLL型データに変換し、temp1のexample7.csvをtemp1のexample7.csvにマッピングするために使用されます。col1のtable7。 - 関数は、
hll_emptyの指定されたデフォルト値を埋めるために使用されます。 :::col2のtable7に指定されたデフォルト値を埋めるために使用されます。
関数hll_hashおよびhll_emptyの使用方法については、hll_hashおよびhll_empty。
BITMAP型列を含むテーブルにデータをロードする
お使いのデータベースtest_dbには、という名前のテーブルが含まれています。table8。このテーブルは、col1とcol2の2つのBITMAP型列で構成されています。
お使いのデータファイルexample8.csvも2つの列で構成されており、そのうち最初の列はcol1のtable8にマッピングでき、2番目の列はtable8のどの列にもマッピングできません。example8.csvの最初の列の値は、col1のtable8にロードされる前に、関数を使用して変換できます。
からexample8.csvにデータをロードする場合は、table8次のコマンドを実行します。
curl --location-trusted -u <username>:<password> \
-H "Expect:100-continue" \
-H "columns: temp1, temp2, col1=to_bitmap(temp1), col2=bitmap_empty()" \
-T example8.csv -XPUT \
<table_url_prefix>/api/test_db/table8/_stream_load
上記の例では、example8.csvの2つの列は、temp1とtemp2パラメーターを使用して順に名前が付けられています。columns次に、関数を使用してデータを次のように変換します。
to_bitmap関数は、temp1のexample8.csvの値をBITMAP型データに変換し、temp1のexample8.csvをcol1のtable8にマッピングするために使用されます。bitmap_empty関数は、指定されたデフォルト値をcol2のtable8に埋めるために使用されます。
関数to_bitmapとbitmap_emptyの使用方法については、to_bitmapおよびbitmap_empty。
設定 skip_header、trim_space、enclose、および escape
あなたのデータベース test_db には、 という名前のテーブルが含まれています。table9。このテーブルは3つの列で構成されており、それらは col1、col2、および col3 の順です。
あなたのデータファイル example9.csv も3つの列で構成されており、それらは col2、col1、および col3 の table13 に順にマッピングされます。
もし example9.csv からすべてのデータを table9 にロードし、 の最初の5行をスキップし、example9.csv 列区切り文字の前後のスペースを削除し、``enclose を \ に、そして escape を \ に設定したい場合は、以下のコマンドを実行してください:
curl --location-trusted -u <username>:<password> -H "label:3875" \
-H "Expect:100-continue" \
-H "trim_space: true" -H "skip_header: 5" \
-H "column_separator:," -H "enclose:\"" -H "escape:\\" \
-H "columns: col2, col1, col3" \
-T example9.csv -XPUT \
<table_url_prefix>/api/test_db/tbl9/_stream_load
設定 column_separator および row_delimiter
あなたのデータベース test_db には、 という名前のテーブルが含まれています。table10。このテーブルは3つの列で構成されており、それらは col1、col2、および col3 の順です。
あなたのデータファイル example10.csv も3つの列で構成されており、それらは col1、col2、および col3 の table10 に順にマッピングできます。データ行の列はカンマ（,)、データ行は2つの連続する非表示文字で区切られます。\r\n。
からすべてのデータをロードしたい場合は、example10.csvにtable10を実行します。
curl --location-trusted -u <username>:<password> -H "label:label10" \
-H "Expect:100-continue" \
-H "column_separator:," \
-H "row_delimiter:\\x0D0A" \
-T example10.csv -XPUT \
<table_url_prefix>/api/test_db/table10/_stream_load
JSONデータのロード
このセクションでは、JSONデータをロードする際に注意すべきパラメータ設定について説明します。
データベースtest_dbには、tbl1という名前のテーブルが含まれており、そのスキーマは次のとおりです。
`category` varchar(512) NULL COMMENT "",`author` varchar(512) NULL COMMENT "",`title` varchar(512) NULL COMMENT "",`price` double NULL COMMENT ""
シンプルモードを使用したJSONデータのロード
データファイルexample1.jsonが次のデータで構成されているとします。
{"category":"C++","author":"avc","title":"C++ primer","price":895}
からすべてのデータをexample1.jsonにロードするには、tbl1を実行します。
curl --location-trusted -u <username>:<password> -H "label:label6" \
-H "Expect:100-continue" \
-H "format: json" \
-T example1.json -XPUT \
<table_url_prefix>/api/test_db/tbl1/_stream_load
上記の例では、パラメータcolumnsとjsonpathsは指定されていません。したがって、example1.jsonのキーは、tbl1の列に名前でマッピングされます。
スループットを向上させるため、Stream Loadは複数のデータレコードを一度にロードすることをサポートしています。例：
[{"category":"C++","author":"avc","title":"C++ primer","price":89.5},{"category":"Java","author":"avc","title":"Effective Java","price":95},{"category":"Linux","author":"avc","title":"Linux kernel","price":195}]
マッチモードを使用したJSONデータのロード
システムは、JSONデータを照合および処理するために次の手順を実行します。
-
(オプション)
strip_outer_arrayパラメータ設定に従って、最外層の配列構造を削除します。。設定する必要があります。
[]をstrip_outer_arrayにtrue。 -
(オプション)
json_rootパラメータ設定に従って、JSONデータのルート要素を照合します。パラメータ。 :::
json_rootパラメータ。 ::: -
指定されたJSONデータを、
jsonpathsパラメータ設定に従って抽出します。
ルート要素を指定せずにマッチモードでJSONデータをロード
データファイルexample2.jsonが次のデータで構成されているとします。
[{"category":"xuxb111","author":"1avc","title":"SayingsoftheCentury","price":895},{"category":"xuxb222","author":"2avc","title":"SayingsoftheCentury","price":895},{"category":"xuxb333","author":"3avc","title":"SayingsoftheCentury","price":895}]
のみをロードするには、category、author、およびpriceからexample2.jsonの場合、次のコマンドを実行します。
curl --location-trusted -u <username>:<password> -H "label:label7" \
-H "Expect:100-continue" \
-H "format: json" \
-H "strip_outer_array: true" \
-H "jsonpaths: [\"$.category\",\"$.price\",\"$.author\"]" \
-H "columns: category, price, author" \
-T example2.json -XPUT \
<table_url_prefix>/api/test_db/tbl1/_stream_load
上記の例では、JSONデータの最外層は、角括弧のペアで示される配列構造です。[]。配列構造は、それぞれデータレコードを表す複数のJSONオブジェクトで構成されています。したがって、strip_outer_arrayをtrueに設定して、最外層の配列構造を削除する必要があります。キー title はロードしたくないため、ロード中に無視されます。
ルート要素を指定してマッチモードでJSONデータをロードする
データファイルexample3.jsonが次のデータで構成されているとします。
{"id": 10001,"RECORDS":[{"category":"11","title":"SayingsoftheCentury","price":895,"timestamp":1589191587},{"category":"22","author":"2avc","price":895,"timestamp":1589191487},{"category":"33","author":"3avc","title":"SayingsoftheCentury","timestamp":1589191387}],"comments": ["3 records", "there will be 3 rows"]}
のみをロードするには、category、author、およびpriceからexample3.jsonの場合、次のコマンドを実行します。
curl --location-trusted -u <username>:<password> \
-H "Expect:100-continue" \
-H "format: json" \
-H "json_root: $.RECORDS" \
-H "strip_outer_array: true" \
-H "jsonpaths: [\"$.category\",\"$.price\",\"$.author\"]" \
-H "columns: category, price, author" -H "label:label8" \
-T example3.json -XPUT \
<table_url_prefix>/api/test_db/tbl1/_stream_load
上記の例では、JSONデータの最外層は、角括弧のペアで示される配列構造です。[]。配列構造は、それぞれデータレコードを表す複数のJSONオブジェクトで構成されています。したがって、strip_outer_arrayをtrueに設定して、最外層の配列構造を削除する必要があります。キー title と timestamp はロードしたくないため、ロード中に無視されます。さらに、json_rootパラメーターは、JSONデータのルート要素（配列）を指定するために使用されます。
ストリームロードリクエストをマージする
-
次のコマンドを実行して、同期モードでマージコミットが有効なストリームロードジョブを開始し、マージウィンドウを
5000ミリ秒、並列度を2に設定します。curl --location-trusted -u <username>:<password> \
-H "Expect:100-continue" \
-H "column_separator:," \
-H "columns: id, name, score" \
-H "enable_merge_commit:true" \
-H "merge_commit_interval_ms:5000" \
-H "merge_commit_parallel:2" \
-T example1.csv -XPUT \
<table_url_prefix>/api/mydatabase/table1/_stream_load -
次のコマンドを実行して、非同期モードでマージコミットが有効なストリームロードジョブを開始し、マージウィンドウを
60000ミリ秒、並列度を2に設定します。curl --location-trusted -u <username>:<password> \
-H "Expect:100-continue" \
-H "column_separator:," \
-H "columns: id, name, score" \
-H "enable_merge_commit:true" \
-H "merge_commit_async:true" \
-H "merge_commit_interval_ms:60000" \
-H "merge_commit_parallel:2" \
-T example1.csv -XPUT \
<table_url_prefix>/api/mydatabase/table1/_stream_load
