DuckDB HTTP 客户端扩展

这个非常实验性的扩展从 DuckDB 内部启动了一个 HTTP 客户端，用于处理 GET/POST 请求。

实验性：使用风险自负！

? 安装

INSTALL http_client FROM community;
LOAD http_client;

注意：目前DuckDB 版本需要在1.1.2 才能直接下载插件，否则需要自己编译。

函数

• • http_get(url)

• • http_post(url, headers, params)

示例

GET 请求

WITH __input AS (
    SELECT
      http_get(
          'https://httpbin.org/delay/0'
      ) AS res
  ),
  __response AS (
    SELECT
      (res->>'status')::INT AS status,
      (res->>'reason') AS reason,
      unnest( from_json(((res->>'body')::JSON)->'headers', '{"Host": "VARCHAR"}') ) AS features
    FROM
      __input
  )
  SELECT
    __response.status,
    __response.reason,
    __response.Host AS host
  FROM
    __response
  ;

┌────────┬─────────┬─────────────┐
│ status │ reason  │    host     │
│ int32  │ varchar │   varchar   │
├────────┼─────────┼─────────────┤
│    200 │ OK      │ httpbin.org │
└────────┴─────────┴─────────────┘

POST 请求

WITH __input AS (
    SELECT
      http_post(
          'https://httpbin.org/delay/0',
          headers => MAP {
            'accept': 'application/json'
          },
          params => MAP { }
      ) AS res
  ),
  __response AS (
    SELECT
      (res->>'status')::INT AS status,
      (res->>'reason') AS reason,
      unnest( from_json(((res->>'body')::JSON)->'headers', '{"Host": "VARCHAR"}') ) AS features
    FROM
      __input
  )
  SELECT
    __response.status,
    __response.reason,
    __response.Host AS host
  FROM
    __response
  ;

┌────────┬─────────┬─────────────┐
│ status │ reason  │    host     │
│ int32  │ varchar │   varchar   │
├────────┼─────────┼─────────────┤
│    200 │ OK      │ httpbin.org │
└────────┴─────────┴─────────────┘

POST JSON

前面的一个是POST parameters， 下面的这个是POST JSON

WITH __input AS (
  SELECT
    http_post(
      'https://earth-search.aws.element84.com/v0/search',
      headers => MAP {
        'Content-Type': 'application/json',
        'Accept-Encoding': 'gzip',
        'Accept': 'application/geo+json'
      },
      params => {
        'collections': ['sentinel-s2-l2a-cogs'],
        'ids': ['S2A_56LPN_20210930_0_L2A'],
        'datetime': '2021-09-30/2021-09-30',
        'limit': 10
      }
    ) AS res
),
__response AS (
  SELECT
    unnest( from_json(((res->>'body')::JSON)->'features', '["json"]') ) AS features
  FROM
    __input
)
SELECT
  features->>'id' AS id
FROM
  __response
;

http_post 部分等价于CURL.的

curl -X POST https://earth-search.aws.element84.com/v0/search \
-H "Content-Type: application/json" \
-H "Accept-Encoding: gzip" \
-H "Accept: application/geo+json" \
-d '{
        "collections": ["sentinel-s2-l2a-cogs"],
        "ids": ["S2A_56LPN_20210930_0_L2A"],
        "datetime": "2021-09-30/2021-09-30",
        "limit": 10
      }
'

包含空间数据的完整示例

这是 @ahuarte47 提供的原始示例，启发了这个社区扩展。

INSTALL json;
INSTALL httpfs;
INSTALL spatial;
LOAD json; 
LOAD httpfs; 
LOAD spatial;

WITH __input AS (
    SELECT
      http_get(
        'https://earth-search.aws.element84.com/v0/search'
      ) AS res
  ),
  __features AS (
    SELECT
      unnest( from_json(((res->>'body')::JSON)->'features', '["json"]') )
      AS features
    FROM
      __input
  )
  SELECT
    features->>'id' AS id,
    features->'properties'->>'sentinel:product_id' AS product_id,
    concat(
      'T',
      features->'properties'->>'sentinel:utm_zone',
      features->'properties'->>'sentinel:latitude_band',
      features->'properties'->>'sentinel:grid_square'
    ) AS grid_id,
    ST_GeomFromGeoJSON(features->'geometry') AS geom
  FROM
    __features
  ;

┌──────────────────────┬──────────────────────┬─────────┬──────────────────────────────────────────────────────────────────────────────────┐
│          id          │      product_id      │ grid_id │                                       geom                                       │
│       varchar        │       varchar        │ varchar │                                     geometry                                     │
├──────────────────────┼──────────────────────┼─────────┼──────────────────────────────────────────────────────────────────────────────────┤
│ S2B_55GDP_20241003…  │ S2B_MSIL2A_2024100…  │ T55GDP  │ POLYGON ((146.7963024570636 -42.53859799130381, 145.7818492341335 -42.53284395…  │
│ S2B_55HEC_20241003…  │ S2B_MSIL2A_2024100…  │ T55HEC  │ POLYGON ((146.9997932100229 -34.429312828654396, 146.9997955899612 -33.4390429…  │
│ S2B_55JHN_20241003…  │ S2B_MSIL2A_2024100…  │ T55JHN  │ POLYGON ((149.9810192714723 -25.374826158099584, 149.9573295859729 -24.3845516…  │
│ S2B_15MWT_20230506…  │ S2B_MSIL2A_2023050…  │ T15MWT  │ POLYGON ((-92.01266261624052 -2.357695714729873, -92.0560908879947 -2.35076658…  │
│ S2B_16PBT_20230506…  │ S2B_MSIL2A_2023050…  │ T16PBT  │ POLYGON ((-88.74518736203468 11.690012668805194, -88.9516536515512 11.72635252…  │
│ S2B_16PCT_20230506…  │ S2B_MSIL2A_2023050…  │ T16PCT  │ POLYGON ((-87.82703591176752 11.483638069337541, -88.8349824533826 11.70734355…  │
│ S2B_15PZP_20230506…  │ S2B_MSIL2A_2023050…  │ T15PZP  │ POLYGON ((-89.24113885498912 11.784951995968179, -89.38831685490888 11.8080246…  │
│ S2B_16PET_20230506…  │ S2B_MSIL2A_2023050…  │ T16PET  │ POLYGON ((-87.00017408768262 11.277451946475995, -87.00017438483464 11.7600349…  │
│ S2B_16PBU_20230506…  │ S2B_MSIL2A_2023050…  │ T16PBU  │ POLYGON ((-88.74518962519173 11.690373971442378, -89.62017907866615 11.8466519…  │
│ S2B_16PDU_20230506…  │ S2B_MSIL2A_2023050…  │ T16PDU  │ POLYGON ((-87.91783982214183 11.670141095427311, -87.92096676562824 12.5828090…  │
└──────────────────────┴──────────────────────┴─────────┴──────────────────────────────────────────────────────────────────────────────────┘

封装MotherDuck的prompt 和embedding 函数

prompt

CREATE OR REPLACE MACRO prompt(q) AS ( 
WITH __input AS (
    SELECT
      http_post(
          
          'https://api.siliconflow.cn/v1/chat/completions',
          headers => MAP {
            'Authorization': 'Bearer sk-xxxiobybdngkkkrodyphzwrvroozhgtzdsfkcpumrrtrxxxx',
            'Content-Type': 'application/json; charset=UTF-8'
          },

          params =>{
            'model': 'Qwen/Qwen2.5-7B-Instruct',
            'messages': [
              {'role': 'system', 'content': 'You are a helpful assistant.'},
              {'role': 'user', 'content':  q}
            ]
          }
      ) AS res
)
select json_extract(((table __input)->>'body')::JSON ,'$.choices[0].message.content') as  chat_response
);

select prompt('"介绍下 DuckDB"') as answer

DuckDB 是一个高性能的嵌入式 SQL 数据库，它可以在多个编程语言中轻松使用，支持各种数据源，并且可以进行内存计算和外部存储计算。...

WITH question as (SELECT *
FROM (VALUES ('美国在首府？不超过10个字？', 1), ('大熊猫是哪个国家的国宝？不超过10个字', 2)) question(q, id))

SELECT  id,q, prompt(q) as a FROM question;

embedding

CREATE OR REPLACE MACRO embedding(q) AS ( 
WITH  __input AS (
    SELECT
      http_post(
          'https://api.siliconflow.cn/v1/embeddings',
          headers => MAP {
            'Authorization': 'Bearer sk-xxxiobybdngkkkrodyphzwrvroozhgtzdsfkcpumrrtrxxxx',
            'Content-Type': 'application/json; charset=UTF-8'
          },
          params =>{
            'model': 'BAAI/bge-large-zh-v1.5',
            'input': q,
            'encoding_format':'float'
          }
      ) AS res
)
-- SELECT (table __input)
SELECT json_extract(((table __input)->>'body')::JSON ,'$.data[0].embedding') as  chat_response
);
select embedding('"介绍下 DuckDB"') as embedding

[0.0024559293,0.0032171067,-0.032328855,0.0028547805,0.0151242,0.007012767,-0.03020165,...]

已知问题

http_get 缺少headers和parameters 的支持 比如我想获得所有的模型

curl https://api.siliconflow.cn/v1/models \
-H "Content-Type: application/json" \
-H "Authorization: Bearer sk-xxxiobybdngkkkrodyphzwrvroozhgtzdsfkcpumrrtrxxxx"