PolarDB:はじめに

拡張機能を作成します。

特権アカウントを使用して、次の文を実行します。

CREATE EXTENSION IF NOT EXISTS polar_ai;

カスタム AI モデルを作成するために、AI_CreateModel 関数の使用準備をします。

• モデルサービスをデプロイし、使用可能であることを確認します。この例では、DeepSeek-R1-Distill-Qwen-7B モデルを Platform for AI（PAI）にデプロイします。

  説明

  モデルサービスは、PolarDB クラスタと同じ VPC（仮想プライベートクラウド）にデプロイする必要があります。

  デプロイ後、[サービス詳細] > [呼び出し情報] に移動します。[呼び出し情報を表示] をクリックして、[アクセスアドレス] と [トークン] 情報を取得します。

• 入力関数を定義します。

  DeepSeek-R1-Distill-Qwen-7B モデルを呼び出すには、次のサンプル HTTP リクエスト本文を参照してください。

  {
    "model": "DeepSeek-R1-Distill-Qwen-7B",
    "prompt": "Hello!"
  }

  リクエスト本文では、model パラメータと prompt パラメータが必要です。入力関数は次のように定義できます。

  CREATE OR REPLACE FUNCTION ai_text_in_fn(model_name text, content text)
      RETURNS jsonb
      LANGUAGE plpgsql
      AS $function$
      BEGIN
          RETURN ('{"model": "'|| model_name ||'","prompt":"'|| content ||'"}')::jsonb;
      END;
      $function$;

AI モデルを作成します。

AI_CreateModel 関数を呼び出して、モデルを作成します。 AI_CreateModel 関数の構文は次のとおりです。

table AI_CreateModel(text model_id, text model_url, text model_provider, text model_type, text model_name, json model_config, regprocedure model_headers_fn, regprocedure model_in_transform_fn, regprocedure model_out_transform_fn);

モデルを作成する SQL 文では、次のパラメータを設定する必要があります。

• model_url パラメータには、手順 2 で取得したアクセスアドレスに呼び出しメソッドを追加して設定します。 Chat および Completions 呼び出しメソッドがサポートされています。この例では、/v1/completions を追加することで Completions メソッドを使用しています。

• model_config パラメータのトークンには、手順 2 で取得した AI モデルサービストークンを設定します。

• model_in_transform_fn パラメータには、入力関数名である ai_text_in_fn を設定します。

次の SQL 文を実行して、AI モデルを作成します。

SELECT polar_ai.ai_createmodel('my_test_pai_model', '<access address>/v1/completions','Alibaba','EAS large language model','DeepSeek-R1-Distill-Qwen-7B','{"author_type": "token", "token": "<model service token>"}', NULL,'ai_text_in_fn'::regproc,NULL);

AI モデルを呼び出す関数を定義します。

AI_CallModel 関数を使用して、AI モデルを呼び出す関数を定義します。

CREATE OR REPLACE FUNCTION my_text_pai_model_func(model_id text, content text)
    RETURNS text
    AS $$ select (polar_ai.AI_CALLMODEL($1,$2)::jsonb -> 'choices' -> 0 ->> 'text')::text AS result $$
    LANGUAGE 'sql' IMMUTABLE;

次の SQL 文を実行して、AI モデルを呼び出します。

SELECT my_text_pai_model_func('my_test_pai_model', 'Hello');

出力例：

        my_text_pai_model_func        
--------------------------------------
 Hello! How can I assist you today? 
(1 row)