开发者

使用PostgreSQL数据库建立用户画像系统的方法

开发者 https://www.devze.com 2022-12-10 11:14 出处：网络 作者： 古道轻风
目录标签模型建表和造数据建索引和查询说起大数据中的应用，很多同学可能马上会想起用户画像。用户画像，英文称之为User Profile，通过用户画像可以完美地抽象出一个用户的信息全貌，通过用户画像数据可以精准地分析
相关专题：PostgreSQL用户画像PostgreSQL用户画像系统
目录
  • 标签模型
  • 建表和造数据
  • 建索引和查询

说起大数据中的应用，很多同学可能马上会想起用户画像。用户画像，英文称之为User Profile，通过用户画像可以完美地抽象出一个用户的信息全貌，通过用户画像数据可以精准地分析用户的各种行为习惯，如消费习惯、兴趣爱好、能力情况等等重要用户信息。 通常用户画像是通过给用户建标签系统来实现的，本文介绍了如何使用PostgreSQL的json数据类型来建立用户画像数据库。

说起大数据中的应用，很多同学可能马上会想起用户画像。

用户画像，英文称之为User Profile，通过用户画像可以完美地抽象出一个用户的信息全貌，通过用户画像数据可以精准地分析用户的各种行为习惯，如消费习惯、兴趣爱好、能力情况等等重要用户信息。 通常用户画像是通过给用户建标签系统来实现的，本文介绍了如何使用PostgreSQL的json数据类型来建立用户画像数据库。

标签模型

为了说明具体的方法方法，我们建一套简单的两级标签系统：

  • 职业： 农民、工人、IT工程师、理发师、医生、老师、美工、律师、公务员、官员
  • 爱好：游泳、乒乓球、羽毛球、网球、爬山、高尔夫球、滑雪、爬山、旅游
  • 开发者_Elasticsearch学历：无学历、小学、初中、高中、中专、专科、本科、硕士、博士
  • 性格：外向、内向、谨慎、稳重、细心、粗心、浮躁、自信

当然你也可以根据实际情况建立三级或更多级的复杂的标签体系。

建表和造数据

下面使用一个具体的例子来说明如何使用PostgreSQL的json数据类型来建立用户标签数据库。

建用户标签表：

CREATE TABLE user_tag(uid serial primary key, tag jsonb);

这个表只有两个字段，uid表示用户ID，而tag字段中放了用户的所有标签，tag字段类型为jsonb。

为了说明如何使用本方案，需要给表中造一些标签数据。 先建一个函数，在后面的INSERT的SQL中会调用此函数生成一些随机的标签：

CREATE OR REPLACE FUNCTION f_random_attr(attr text[], max_attr int)
RETURNS text[] AS $$
DECLARE
     i integer := 0; 
     r integer := 0;
     res  text[];
     v text;
     l integer;
     num integer;
 BEGIN
     num := (random()*max_attr)::int;
     IF num < 1 THEN
         num := 1;
     END IF;
     l := array_length(attr, 1);
     WHILE i < num LOOP
          r := round(random()*l)::int + 1;
          v := attr[r];
          IF res @> array[v] THEN
             continue;
          ELSE 
             res := array_append(res, v);
             i := i + 1;
          END IF;
     END LOOP;
     return res;
 END;
$$ LANGUAGE plpgsql;

我们通过下面的INSERT语句就可以造一些随机的数据了：

INSERT INTO user_tag(uid, tag) 
SELECT seq, 
       json_build_object(
         '职业',
         f_random_attr(array['农民','工人','IT工程师','理发师','医生','老师','美工','律师','公务员','官员'], 1),
         '爱好',
         f_random_attr(array['游泳','乒乓球','羽毛球','网球','爬山','高尔夫球','滑雪','爬山','旅游'], 5),
         '学历',
         f_random_attr(array['无学历','小学','初中','高中','中专','专科','本科','硕士','博士'], 1),
         '性格',
         f_random_attr(array['外向','内向','谨慎','稳重','细心','粗心','浮躁','自信'], 3))::jsonb
  FROM generate_series(1, 10000) as t(seq);

建索引和查询

为了加快查询，我们在tag列上建GIN索引。GIN索引是PostgreSQL中的一种特殊的索引，可以实现类似全文搜索的功能：

CREATE INDEX idx_user_tag_tag on user_tag using gin(tag);

这时我们如果想查询性格为外向和细心的老师，则SQL语句：

os编程dba=# select * from user_tag where tag @> '{"性格":["外向","细心"]}' and tag @> '{"职业":["老师"]}';
 uid  |                                                         tag
------+----------------------------------------------------------------------------------------------------------------------
  881 | {"学历": ["中专"], "性格": ["细心", "内向", "外向"], "爱好": ["高尔夫球"], "职业": ["老师"]}
 1031 | {"学历": [null], "性格": ["外向", "细心"], "爱好": ["爬山"], "职业": ["老师"]}
 3313 | {"学历": [null], "性格": ["外向", "细心"], "爱好": ["乒乓球"], "职业": ["老师"]}
 4053 | {"学历": ["本科"], "性格": ["细心", "外向"], "爱好": ["爬山", "滑雪", "游泳"], "职业": ["老师"]}
 4085 | {"学历": ["初中"], "性格": ["外向", "细心"], "爱好": ["网球"], "职业": ["老师"]}
 4332 | {"学历": ["硕士"], "性格": ["外向", "细心"], "爱好": ["网球", "羽毛球"], "职业": ["老师"]}
 4997 | {"学历": ["小学"], "性格": ["外向", "细心", "浮躁"], "爱好": ["乒乓球"], "职业": ["老师"]}
 5231 | {"学历": ["本科"], "性格": ["外向", "细心"], "爱好": ["高尔夫球"], "职业": ["老师"]}
 5360 | {"学历": ["无学历"], "性格": ["浮躁", "外向", "细心"], "爱好": ["爬山", "网球", "旅游", "羽毛球"], "职业": ["老师"]}
 6281 | {"学历": ["专科"], "性格": ["细心", "外向", "自信"], "爱好": ["滑雪", null], "职业": ["老师"]}
 7681 | {"学历": ["小学"], "性格": ["粗心", "外向", "细心"], "爱好": ["乒乓球"], "职业": ["老师"]}
 8246 | {"学历": ["硕士"], "性格": ["外向", "细心"], "爱好": ["滑雪", "网球", "高尔夫球"], "职业": ["老师"]}
 8531 | {"学历": ["硕士"编程客栈], "性格": ["细心", "外向", "粗心"], "爱好": ["滑雪", "爬山"], "职业": ["老师"]}
 8618 | {"学历": ["小学"], "性格": ["细心", "外向", "浮躁"], "爱好": ["乒乓球"], "职业": ["老师"]}
 9508 | {"学历": ["小学"], "性格": ["浮躁", "外向", "细心"], "爱好": ["爬山", "旅游", "高尔夫球"], "职业": ["老师"]}
(15 rows)

Time: 1.495 ms

上面SQL语句中的where条件中的 “tag @> '{"性格":["外向","细心"]}' ”中的“@>”是一个PostgreSQL中jsonb类型的特殊运算符，意思为“包含”。

我们如果想查询性格为外向和细心而又喜欢滑雪和游泳的医生，则SQL语句：

osdba=# select * from user_tag where tag @> '{"性格":["外向","细心"]}' and tag @> '{"职业":["医生"]}' and tag @>'{"爱好":["滑雪", "游泳"]}';
 uid  |                                               tag
------+------------------------tDnlExRnwm--------------------------------------------------------------------------
 4469 | {"学历": ["小学"], "性格": ["外向", "细心", "稳重"], "爱好": [编程客栈"滑雪", "游泳"], "职业": ["医生"]}
(1 row)

Time: 2.139 ms

从上面可以看出，只需要1~2ms就可以查询出结果，原因是我们使用GIN索引，可以通过查看一下执行计划：

osdba=# explain select * from user_tag where tag @> '{"性格":["外向","细心"]}' and tag @> '{"职业":["医生"]}' and tag @>'{"爱好":["滑雪", "游泳"]}';
                                                                          QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------------------------------------------
 Bitmap Heap Scan on user_tag  (cost=48.00..52.02 rows=1 width=153)
   Recheck Cond: ((tag @> '{"性格": ["外向", "细心"]}'::jsonb) AND (tag @> '{"职业": ["医生"]}'::jsonb) AND (tag @> '{"爱好": ["滑雪", "游泳"]}'::jsonb))
   ->  Bitmap Index Scan on idx_user_tag_tag  (cost=0.00..48.00 rows=1 width=0)
         Index Cond: ((tag @> '{"性格": ["外向", "细心"]}'::jsonb) AND (tag @> '{"职业": ["医生"]}'::jsonb) AND (tag @> '{"爱好": ["滑雪", "游泳"]}'::jsonb))
(4 rows)

Time: 1.736 ms

GIN索引是PostgreSQL中的核武器，大家从上面就可以看出GIN索引的强大了。GIN索除了可以用在json数据类型上，也可以使用到数组类型中。

jsonb为GIN索引提供了两类索引操作符（你可以认为是两种索引）：

  • jsonb_ops，这是默认，上面我们建的索引就是这个类型的，
  • jsonb_path_ops

jsonb_ops可以支持“@>”、“?”、“?&”、“?|”等操作符进行查询，这些操作符的意思请见：官方文档

而jsonb_path_ops只支持“@>”操作符，当然jsonb_path_ops索引要比json_ops索引小很多，具体可以见：

osdba=# select pg_relation_size('idx_user_tag_tag');
 pg_relation_size
------------------
           245760
(1 row)

Time: 0.522 ms
osdba=# CREATE INDEX idx_user_tag_tag2 on user_tag using gin(tag jsonb_path_ops);
CREATE INDEX
Time: 46.947 ms
osdba=# select pg_relation_size('idx_user_tag_tag2');
 pg_relation_size
------------------
           147456
(1 row)

jsonb_path_ops索引使用的方法与jsonb_ops基本相同：

osdba=# drop index idx_user_tag_tag;
DROP INDEX
Time: 2.833 ms
osdba=# select * from user_tag where tag @> 'python{"性格":["外向","细心"]}' and tag @> '{"职业":["医生"]}' and tag @>'{"爱好":["滑雪", "游泳"]}';
 uid  |                                               tag
------+--------------------------------------------------------------------------------------------------
 4469 | {"学历": ["小学"], "性格": ["外向", "细心", "稳重"], "爱好": ["滑雪", "游泳"], "职业": ["医生"]}
(1 row)

Time: 1.401 ms
osdba=# explain select * from user_tag where tag @> '{"性格":["外向","细心"]}' and tag @> '{"职业":["医生"]}' and tag @>'{"爱好":["滑雪", "游泳"]}';
                                                                          QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------------------------------------------
 Bitmap Heap Scan on user_tag  (cost=24.00..28.02 rows=1 width=153)
   Recheck Cond: ((tag @> '{"性格": ["外向", "细心"]}'::jsonb) AND (tag @> '{"职业": ["医生"]}'::jsonb) AND (tag @> '{"爱好": ["滑雪", "游泳"]}'::jsonb))
   ->  Bitmap Index Scan on idx_user_tag_tag2  (cost=0.00..24.00 rows=1 width=0)
         Index Cond: ((tag @> '{"性格": ["外向", "细心"]}'::jsonb) AND (tag @> '{"职业": ["医生"]}'::jsonb) AND (tag @> '{"爱好": ["滑雪", "游泳"]}'::jsonb))
(4 rows)

Time: 0.634 ms

你可以写更多的SQL来做用户画像的数据分析，这里就不再赘述了。

当然也可以使用PostgreSQL的数组类型建标签系统，数组类型也运行GIN索引，但总的来说没有使用json类型直观。

到此这篇关于使用PostgreSQL数据库建立用户画像系统的文章就介绍到这了,更多相关PostgreSQL用户画像系统内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们！

0

上一篇:

:下一篇

更多 数据库 相关资讯：

精彩评论

暂无评论...
登录 注册
Qedev.com
验证码 换一张
取 消

关注公众号

热门标签

图文推荐

MySQL字符串日期格式转换的几种常用方法例子解析

MySQL字符串日期格式转换的几种常用方法例子解析
详解Sqlsugar调用Oracle的存储过程

详解Sqlsugar调用Oracle的存储过程
SpringBoot集成Mongodb的操作方法

SpringBoot集成Mongodb的操作方法
如何用PyMongo在Python中操作MongoDB的超完整指南

如何用PyMongo在Python中操作MongoDB的超完整指南
Vcenter清理/storage/archive空间的处理方式

Vcenter清理/storage/archive空间的处理方式
mysql插入带emoji表情的数据报错问题

mysql插入带emoji表情的数据报错问题
Mysql允许他人访问本机数据库的实现步骤

Mysql允许他人访问本机数据库的实现步骤
Docker安装MongoDB的过程(mongo.latest)

Docker安装MongoDB的过程(mongo.latest)

开发者开发者网给大家分享系统运维,大数据运维,云计算,编程开发技巧,路由交换,运维和开发相关的资讯及技术文章，同时StackOverflow中文社区，知识经验交流分享。

法律声明：本站内容均为网友上传，网站举办方负责审核和监督，如存在版权或非法内容，欢迎举报，我们将尽快予以删除。邮箱：devze@qq.com

Copyright © 2018-2020 开发者. All rights reserved. Powered by 开发者ICP备案号: 京ICP备10032868号-9