ClickHouseでのCatboostモデルの適用 

CatBoost で開発された無料でオープンソースの勾配昇圧ライブラリです Yandex 機械学習のために。

この手順では、SQLからモデル推論を実行して、ClickHouseで事前に訓練されたモデルを適用する方法を学習します。

ClickHouseでCatBoostモデルを適用するには:

  1. テーブルの作成.
  2. テーブルにデータを挿入します.
  3. ClickHouseにCatBoostを統合する (任意ステップ)。
  4. SQLからモデル推論を実行する.

CatBoostモデルのトレーニングの詳細については、 モデルの学習と適用.

前提条件 

あなたが持っていない場合 ドッカー まだ、それを取付けなさい。

CatBoostモデルを適用する前に:

1. プル ドッカー画像 レジストリから:

$ docker pull yandex/tutorial-catboost-clickhouse

このDockerイメージには、CatBoostとClickHouseを実行するために必要なコード、ランタイム、ライブラリ、環境変数、設定ファイルがすべて含まれています。

2. Dockerイメージが正常にプルされたことを確認します:

$ docker image ls
REPOSITORY                            TAG                 IMAGE ID            CREATED             SIZE
yandex/tutorial-catboost-clickhouse   latest              622e4d17945b        22 hours ago        1.37GB

3. 起Dockerコンテナに基づくこのイメージ:

$ docker run -it -p 8888:8888 yandex/tutorial-catboost-clickhouse

1. テーブルの作成 

トレーニングサンプルのClickHouseテーブルを作成するには:

1. 対話モードでClickHouse consoleクライアントを起動する:

$ clickhouse client

2. コマンドを使用して表を作成します:

:) CREATE TABLE amazon_train
(
    date Date MATERIALIZED today(),
    ACTION UInt8,
    RESOURCE UInt32,
    MGR_ID UInt32,
    ROLE_ROLLUP_1 UInt32,
    ROLE_ROLLUP_2 UInt32,
    ROLE_DEPTNAME UInt32,
    ROLE_TITLE UInt32,
    ROLE_FAMILY_DESC UInt32,
    ROLE_FAMILY UInt32,
    ROLE_CODE UInt32
)
ENGINE = MergeTree ORDER BY date

3. ClickHouse consoleクライアントからの終了:

:) exit

2. テーブルにデータを挿入します 

データを挿入するには:

1. 次のコマンドを実行します:

$ clickhouse client --host 127.0.0.1 --query 'INSERT INTO amazon_train FORMAT CSVWithNames' < ~/amazon/train.csv

2. 対話モードでClickHouse consoleクライアントを起動する:

$ clickhouse client

3. データがアップロードされたことを確認:

:) SELECT count() FROM amazon_train

SELECT count()
FROM amazon_train

+-count()-+
|   65538 |
+-------+

3. ClickHouseにCatBoostを統合する 

ClickhouseにCatBoostを統合するには:

1. 評価ライブラリを構築します。

CatBoostモデルを評価する最速の方法はコンパイルです libcatboostmodel.<so|dll|dylib> 図書館 に関する詳細については、図書館を参照 CatBoostドキュメント.

2. 新しいディレクトリを任意の場所に作成し、任意の名前で作成します。, data 作成したライブラリをその中に入れます。 のDocker画像がすでに含まれている図書館 data/libcatboostmodel.so.

3. Config modelの新しいディレクトリを任意の場所に、任意の名前で作成します。, models.

4. 任意の名前のモデル構成ファイルを作成します。, models/amazon_model.xml.

5. モデル構成の説明:

<models>
    <model>
        <!-- Model type. Now catboost only. -->
        <type>catboost</type>
        <!-- Model name. -->
        <name>amazon</name>
        <!-- Path to trained model. -->
        <path>/home/catboost/tutorial/catboost_model.bin</path>
        <!-- Update interval. -->
        <lifetime>0</lifetime>
    </model>
</models>

6. CatBoostへのパスとモデル設定をClickHouse設定に追加します:

<!-- File etc/clickhouse-server/config.d/models_config.xml. -->
<catboost_dynamic_library_path>/home/catboost/data/libcatboostmodel.so</catboost_dynamic_library_path>
<models_config>/home/catboost/models/*_model.xml</models_config>

4. SQLからモデル推論を実行する 

試験モデルのClickHouseト $ clickhouse client.

モデルが動作していることを確認しましょう:

:) SELECT
    modelEvaluate('amazon',
                RESOURCE,
                MGR_ID,
                ROLE_ROLLUP_1,
                ROLE_ROLLUP_2,
                ROLE_DEPTNAME,
                ROLE_TITLE,
                ROLE_FAMILY_DESC,
                ROLE_FAMILY,
                ROLE_CODE) > 0 AS prediction,
    ACTION AS target
FROM amazon_train
LIMIT 10

のは、確率を予測してみましょう:

:) SELECT
    modelEvaluate('amazon',
                RESOURCE,
                MGR_ID,
                ROLE_ROLLUP_1,
                ROLE_ROLLUP_2,
                ROLE_DEPTNAME,
                ROLE_TITLE,
                ROLE_FAMILY_DESC,
                ROLE_FAMILY,
                ROLE_CODE) AS prediction,
    1. / (1 + exp(-prediction)) AS probability,
    ACTION AS target
FROM amazon_train
LIMIT 10

サンプルのLogLossを計算しましょう:

:) SELECT -avg(tg * log(prob) + (1 - tg) * log(1 - prob)) AS logloss
FROM
(
    SELECT
        modelEvaluate('amazon',
                    RESOURCE,
                    MGR_ID,
                    ROLE_ROLLUP_1,
                    ROLE_ROLLUP_2,
                    ROLE_DEPTNAME,
                    ROLE_TITLE,
                    ROLE_FAMILY_DESC,
                    ROLE_FAMILY,
                    ROLE_CODE) AS prediction,
        1. / (1. + exp(-prediction)) AS prob,
        ACTION AS tg
    FROM amazon_train
)

評価: 2.8 - 12 投票

この内容は有用だったか。
★★★☆☆