PostgreSQL的查询技巧: 零除, GENERATED STORED, COUNT DISTINCT, JOIN和数 ...

火影  金牌会员 | 2022-8-24 20:04:26 | 显示全部楼层 | 阅读模式
打印 上一主题 下一主题

主题 849|帖子 849|积分 2547

零除的处理

用NULLIF(col, 0)可以避免复杂的WHEN...CASE判断, 例如
  1. ROUND(COUNT(view_50.amount_in)::NUMERIC / NULLIF(COUNT(view_50.amount_out)::NUMERIC, 0),2) AS out_divide_in,
复制代码
使用 COLA / NULLIF(COLB,0) 后, 如果 COLB 为0, 产生的输出就是 NULL
GENERATED 字段, GENERATED..STORED

对于读多写少的表, 这是一个高效的性能提升方法, 对已知表可以增加Generated字段, 这些字段只读, 自动计算赋值, 可以像普通字段一样参与查询, 不需要在查询中实时计算, 是一种典型的使用空间换时间的优化方式.
  1. ALTER TABLE "bank_card"
  2.     ADD COLUMN "card_num_in" varchar(255)         GENERATED ALWAYS AS (CASE WHEN direction = 'IN' THEN card_num ELSE NULL END) STORED,
  3.     ADD COLUMN "card_num_out" varchar(255)         GENERATED ALWAYS AS (CASE WHEN direction = 'OUT' THEN card_num ELSE NULL END) STORED,
  4.     ADD COLUMN "amount_in" numeric(53,2)         GENERATED ALWAYS AS (CASE WHEN direction = 'IN' THEN amount ELSE NULL END) STORED,
  5.     ADD COLUMN "amount_out" numeric(53,2)         GENERATED ALWAYS AS (CASE WHEN direction = 'OUT' THEN amount ELSE NULL END) STORED;
复制代码
注意

  • PostgreSQL 14 只有 STORED 类型的字段, 还不能使用 VIRTUAL 类型
  • 这样的字段是只读的, INSERT 的时候不能往这些字段写入
  • GENERATED 字段不带索引, 如果基于带索引的字段创建 GENERATED 字段, 在 GENERATED 字段上检索, 性能可能反而更差, 可以通过给 GENERATED 字段建索引解决.
COUNT DISTINCT 优化

COUNT DISTINCT 的性能问题

COUNT DISTINCT 的性能是PostgreSQL中长期存在的问题, 在版本14中尚未解决. 在数据量大的时候, 这个查询会很慢, 千万级别的表可能需要10秒左右才能返回结果
  1. SELECT
  2.         COUNT(DISTINCT field_1)
  3. FROM
  4.         table_1
复制代码
原因链接
count(distinct ...) always sorts, rather than using a hash, to do its work.  I don't think that there is any fundamental reason that it could not be changed to allow it to use hashing, it just hasn't been done yet.  It is complicated by the fact that you can have multiple count() expressions in the same query which demand sorting/grouping on different columns.
PostgreSQL 的 count(distinct ...) 的实现方式是排序而不是使用 hash, 所以速度很慢. 应该要换成 hash 方式, 只是因为各种原因还没有实现.
规避途径一: 通过 COUNT 子查询

使用下面的方式, 查询时间能缩短一半以上
  1. SELECT
  2.         COUNT(col)
  3. FROM (
  4.         SELECT DISTINCT field_1 AS col FROM table_1
  5. ) TEMP
复制代码
规避途径二: 通过 COUNT_DISTINCT 扩展

针对这个性能问题的扩展 count_distinct, 安装之后可以使用COUNT_DISTINCT()函数代替COUNT(DISTINCT ...), 但是缺点是费内存, 而且对参数有长度限制.
规避途径三: 通过 GROUP BY

使用GROUP BY代替DISTINCT, 下面的例子, 对 field_1 和 field_2 建联合索引, 速度会非常快
  1. SELECT COUNT(field_2), field_1, field_2
  2. FROM table_1
  3. GROUP BY field_1, field_2
复制代码
对于复杂场景, 可以对 GROUP BY 之后的结果建立视图, 而后以子查询的形式取值
优化JOIN性能

JOIN查询, 需要限定JOIN的范围, 例如对于一个翻页查询, 需要对翻页的结果通过JOIN挂接大量属性的, 翻页结果通过LEFT JOIN连接到多个属性表, 就应该将翻页结果限制数量后, 再进行关联, 这样性能会好很多, 例如
  1. Preparing : SELECT
  2. "view_46"."id",
  3. "view_46"."name",
  4. "label_view6"."labels" AS "1___label",
  5. "label_view7"."labels" AS "21022___label",
  6. "label_view8"."labels" AS "21023___label",
  7. "label_view9"."labels" AS "50197___label"
  8. FROM
  9.     -- 这行是关键, 因为主体在ID上有索引, 偏移查询是很快的, 先限制结果集大小, 然后再进行JOIN
  10.         ( SELECT * FROM "view_46" ORDER BY ID ASC LIMIT 10 OFFSET 14270 ) AS "view_46"
  11.         LEFT JOIN "label_view" AS "label_view6" ON (
  12.                 "label_view6"."item_type" = '1'
  13.                 AND "label_view6"."item_name" = '1'
  14.                 AND "label_view6"."item_attr" = '2'
  15.                 AND "label_view6"."item_id" = "view_46"."id" :: TEXT
  16.         )
  17.         LEFT JOIN "label_view" AS "label_view7" ON (
  18.                 "label_view7"."item_type" = '1'
  19.                 AND "label_view7"."item_name" = '21022'
  20.                 AND "label_view7"."item_attr" = '2'
  21.                 AND "label_view7"."item_id" = "view_46"."id" :: TEXT
  22.         )
  23.         LEFT JOIN "label_view" AS "label_view8" ON (
  24.                 "label_view8"."item_type" = '1'
  25.                 AND "label_view8"."item_name" = '21023'
  26.                 AND "label_view8"."item_attr" = '2'
  27.                 AND "label_view8"."item_id" = "view_46"."id" :: TEXT
  28.         )
  29.         LEFT JOIN "label_view" AS "label_view9" ON (
  30.                 "label_view9"."item_type" = '1'
  31.                 AND "label_view9"."item_name" = '50197'
  32.                 AND "label_view9"."item_attr" = '2'
  33.                 AND "label_view9"."item_id" = "view_46"."id" :: TEXT
  34.         )
  35. ORDER BY
  36. ID ASC
复制代码
LIKE ARRAY的用法

PostgreSQl 的LIKE用法
LIKE


  • LIKE
  • NOT LIKE
  • LIKE ANY(ARRAY[]) 如果需要相似任意一个参数, 需要使用这个语法
  • NOT LIKE ALL(ARRAY[]) 如果想达到不相似任意一个参数, 需要用这个语法
ILIKE

ILIKE是不区分大小写的LIKE

  • ILIKE
  • NOT ILIKE
  • ILIKE ANY(ARRAY[])
  • NOT ILIKE ALL(ARRAY[])

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

火影

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表