分享好友 最新动态首页 最新动态分类 切换频道
8、去掉json多余的字段 json2map + map_remove + map_values
2024-12-27 02:41

细节:sql 中有涉及到正则匹配函数的,要注意转义符号

因为在不同语言下正则匹配规则是否需要加转义符号是不同的,举例,regexp_replace 函数,在hive sql的正则匹配规则的 d+ 需要前面给它加上转义符号,而在java中可能不用,在Presto sql 就是不用加转义符号的。

8、去掉json多余的字段 json2map + map_remove + map_values

☺ 思路:不用特意去记哪一种语言需要加转义符号,哪种语言不需要,只需要记住正则匹配规则报错的一个原因,可能是转义符号的问题即可

 

(1) 语法:get_json_object(string json_string, string path)

  • json_string:必填。STRING类型。标准的JSON格式对象,格式为。如果遇到英文双引号",需要用两个反斜杠)进行转义。如果遇到英文单引号',需要用一个反斜杠)进行转义。
  • path:必填。STRING类型。以$开头。
  • :表示根节点。
  • :表示子节点。MaxCompute支持用这两种字符解析JSON对象,当JSON的Key本身包含时,可以用来替代。
  • :表示数组下标,从0开始。
  • :返回整个数组。不支持转义。

(2) 例子

 

(1) 符合正则表达式方式,截取字符串 regexp_extract

  • 语法:regexp_extract(string subject, string pattern, int index)
  • 抽取字符串subject 中符合正则表达式pattern 的第index 个部分的子字符串
index是返回结果取表达式的哪一部分
  • 0 表示把整个正则表达式对应的结果全部返回
  • 1 表示返回正则表达式中第一个()对应的结果,以此类推。
 

(2) 按字符位置截取字符串 substr

  • 语法:substr(string|binary A, int start) substr(string|binary A, int start, int len)
 

(1) 语法

regexp_replace(string INITIAL_STRING, string PATTERN, string REPLACEMENT)

(2) 作用

按照正则表达式pattern 将字符串INTIAL_STRING 中符合条件的部分替换成REPLACEMENT 指定的字符串

(3) 例子

 

(1) concat 拼接字符串

  • 语法:concat_ws(字符串1,字符串2)
 

(2) concat_ws 带分割符的拼接字符串

  • 语法:concat_ws(‘分隔符’,字符串1,字符串2)
 

(1) 规定时间输出格式 date_format

 

细节:date_format 无法识别/的时间格式,例如:select date_format(‘2023/01/17’, ‘y’); 结果是null

解决:先通过字符串替换函数,将/ 替换成 -,然后再使用date_format 函数,获取指定格式的时间

 

(2) 和时间戳相关

unix_timestamp(string date) 获取当前时间戳

  • unix_timestamp(string timestame) 输入的时间戳格式必须为’yyyy-MM-dd HH:mm:ss’,如不符合则返回null

unix_timestamp(string date, string pattern) 指定格式将时间字符串转化成时间戳

  • select unix timestamp(‘2023-1-6’‘yyyy-MM-dd’);

from_unixtime(bigint unixtime[, string format]) 将时间戳转成国际协调时间


  • 语法:ROW_NUMBER() OVER(PARTITION BY 分区的字段 ORDER BY 升序/降序字段 [DESC])
 

(1) 作用

炸裂函数,实现将一行转换成多列,然后侧视图函数进行聚合

(2) 例子

  • 原数据结果
  • 试试炸裂函数explode 效果
 
▷ explode(genre) 和其他字段一起查询
  • 实际业务,字段game_name,genre 都要查询
 
报错:UDTF’s are not supported outside the SELECT clause, nor nested in expressions
分析:原因是因为这个字段genre,炸裂之后,转换成多列(3列),而game_name 字段依然是1列,列数不匹配
解决:侧视图(表)的聚合
 
聚合效果

  • 先将json转换成map,然后使用方法map_remove删除,最后使用map_values取出来
 

  • nvl(valueExp1, valueExp2):根据第一个表达式的值是否为空,不为空则返回第一个表达式的值,若为空则返回第二个表达式的值
 

(1) 作用

with as短语,也叫做子查询部分,是用来定义一个SQL片断,该SQL片断会被整个SQL语句所用到。其中,SQL片段产生的结果集保存在内存中,
后续的sql均可以访问这个结果集,作用与视图或临时表类似。

(2) 语法

 

(3) 本质:

with…as 子查询部分,和直接用子查询效率上没有什么区别,只是这种写法增加了sql可读性。

(4) 小细节

  • with…as 特点:是一次性的,例如下面的例子,定义的"临时表"temp1,在第一次查询name 之后,就不可以再查看id了。

(1) 语法

cast(expr as <type>) 将表达式 expr 的结果转换为 <type>

Cast(字段名 as 转换的类型)

(2) 例子

  • 举例1:cast(‘1’ as BIGINT) 将字符串 ‘1’ 转换为其整数表示形式

  • 举例2:表tableA 有一个时间字段 release_time:2018-11-03 15:31:26

 
  • 结果:release_time:2018-11-03




最新文章
配置typora图片上传服务器
EasyTyporaEasyTypora是一个为Typora添加私用化图床的实用小工具,要使用本项目,你需要有自己的一台云服务器~本项目永久地址:通过这个项目你能得到什么?在2021年,配合Typora使用,即使不买图床,也能获得极致的Markdown写作体验。学会
新闻广告投放费用贵吗?这样投放更省钱!
新闻广告投放费用贵吗?这样投放更省钱!新闻广告投放费用贵吗?这样投放更省钱!标题:新闻广告投放费用贵吗?这样投放更省钱!在现代信息的时代,新闻广告作为一种有效的宣传手段,被众多企业视为提升品牌知名度、扩大市场份额的重要途径
网站发布排名优化,提升网站在搜索引擎中的可见性与权威度,网站发布排名优化方案
网站发布排名优化方案旨在提升网站在搜索引擎中的可见性与权威度。通过优化网站内容、建立高质量外部链接、提升网站速度、增强用户体验以及定期更新网站信息,可以有效提高网站在搜索引擎中的排名。还需关注竞争对手的动态,及时调整优化策
非华为电脑管家 V11.1.6.30 汉客儿版免费软件全功能绿色商业破解版注册码下载
非华为电脑管家 V11.1.6.30 汉客儿版免费软件宁缺见识多(见多识广)果实累累毋滥32. 在我们的城市里,夏季上演得太长,秋色就不免出场得晚些。但秋实永远不会被混淆的——这坚硬明朗的金属季。让我们从微凉的松风中去任取,让我们从新刈的
苹果采集插件全套教程-苹果cmsV10采集插件
最近几年随着互联网时代的发展,做电影网站的站长越来越多了,加入此行列的人也是与日俱增!但是很多站长都是跟风来做电影站的,怎么做一点思路都没有。电影资源都不知道怎么来的。今天就教大家怎么做好电影站,文章有点长请大家耐心观看,
【纵深推进“三抓三促”行动】庄浪:解难题办实事暖人心
  原标题:【纵深推进“三抓三促”行动】庄浪:解难题办实事暖人心  新甘肃·甘肃日报记者 田丽媛  窗外,雪花飞舞;室内,温暖如春。  “今年暖气真暖和!”说起今冬供暖,家住庄浪县朝阳社区水利小区的李明月老人感慨地说。  
天眼3D高清卫星地图下载
下载天眼3D高清卫星地图到手机上面的方法有很多。 安卓系统的手机可以在豌豆荚或者PP助手等手机助手里面一键下载安装!也可以通过电脑端用手机扫描天眼3D高清卫星地图下载的二维码获取下载链接!有手机端直接访问网页下载也是可以的,下面
预测模型自变量太多怎么筛选?这篇Lancet子刊如何从249个变量筛出11个
基于传统危险因素的风险预测模型虽然也能够有效的区分未来低风险和高风险的个体,但由于缺乏特异性和对复杂风险因素的不完整描述,临床适用性受到限制。因此越来越多的学者引入蛋白质组学、循环代谢物等分子层面信息作为预测因子提高模型的
营口SEO推广收费揭秘,解析奥秘与明智选择之道
营口SEO推广收费标准揭秘:本文深入剖析营口SEO推广行业收费规则,揭示行业奥秘,为企业和个人提供合理选择SEO推广服务的指南。通过对比分析,助您了解费用构成,避免陷入陷阱,实现高效SEO推广。随着互联网的快速发展,越来越多的企业开始
相关文章
推荐文章
发表评论
0评