百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

hive复杂结构之array,map,struct

bigegpt 2024-09-20 14:02 4 浏览

hive提供了复合数据类型array,map,struct,下面来依次介绍

一.array介绍

语法:array<int> 例如:[1,2,3]

array<string> 例如 ['a','b','c']

描述:数组是一组具有相同类型和名称的变量的集合。这些变量成为数组的元素,每个数组元素都有一个编号,编号从0开始。例如,数组['Jack','David'],那么第二个元素可以用数组名[1]进行引用。

创建数组

create table array_test
(
  name string
  ,dept_id array<int>
  ,status array<string>
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'
COLLECTION ITEMS TERMINATED BY ','
;

ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' 设置字段间的分隔符为tab

COLLECTION ITEMS TERMINATED BY ',' 设置字段中每个元素间的分隔符为逗号,数组中必须使用该设置

准备数据:array_test.txt

zs	1,2,3,4		ok,return,reject,fail
ls	11,22,33,41		ok,reject,fail
wl	100

加载数据

LOAD DATA LOCAL INPATH '/Users/admin/Documents/bigdata/test_file/array_test.txt' OVERWRITE INTO TABLE array_test;

查询数据

hive (test)> select * from array_test;
array_test.name	array_test.dept_id	array_test.status
zs	[1,2,3,4]	["ok","return","reject","fail"]
ls	[11,22,33,41]	["ok","reject","fail"]
wl	[100]	NULL

查询数组字段的长度:size(array)

hive (test)> select name,size(dept_id),size(status) from array_test;
name	_c1	_c2
zs	4	4
ls	4	3
wl	1	-1

注意:由上面的结果可看出当数组为null时,查出的长度为-1

查询数组字段中某一位置的元素:array[index]

hive (test)> select name,dept_id[0],status[2] from array_test;
name	_c1	_c2
zs	  1	   reject
ls	  11	 fail
wl	  100	 NULL

查询数组中是否包含某元素:array_contains(数组名,值)

array_contains方法返回一个Boolean对象,可以配合if函数使用,例如 if(array_contains(cloumn,'A'),'包含A','不包含A')

hive (test)> select name,array_contains(status,'ok') from array_test;
name	_c1
zs	true
ls	true
wl	false
hive (test)> select name,if(array_contains(status,'ok'),'yes','no') from array_test;
name	_c1
zs	yes
ls	yes
wl	no

查询status中包含'ok'的数据

hive (test)> select * from array_test where array_contains(status,'ok');
array_test.name	array_test.dept_id	array_test.status
zs	[1,2,3,4]	["ok","return","reject","fail"]
ls	[11,22,33,41]	["ok","reject","fail"]

此处注意,如果不使用该函数,而直接使用 “值 in/not in 数组”,会报错,会报类型不匹配的错误

hive (test)> select * from array_test where status in ('ok');
FAILED: SemanticException Line 0:-1 Wrong arguments ''ok'': The arguments for IN should be the same type! Types are: {array<string> IN (string)}

查询数组中的每一个元素:explode()

注意:explode()函数只是生成了一个数据的展示方式,无法在表中产生一个新的数据列,即select name,explode(dept_id) from array_test; 会报错的

col
1
2
3
4
11
22
33
41
100
hive (test)> select name,explode(dept_id) from array_test;
FAILED: SemanticException [Error 10081]: UDTF's are not supported outside the SELECT clause, nor nested in expressions

要想展示其他列,可以使用下面的lateral view explode(array)来实现

一行转多行(行转列):lateral view explode(array)

lateral view 会将explode生成的结果放到一个虚拟表中,然后这个虚拟表会和输入行即每个name进行join,来达到数据聚合的目的。

hive (test)> select  name ,a_dept_id from array_test
           > lateral view explode(dept_id) a as a_dept_id  -- 要进行聚合的虚拟表,lateral view explode(字段) 虚拟表名 as 虚拟表字段  
           > ;
name	a_dept_id
zs	1
zs	2
zs	3
zs	4
ls	11
ls	22
ls	33
ls	41
wl	100

split()将字符串转成字符串数组

语法: split(string str, string pat)
返回值: array
说明: 按照pat字符串分割str,会返回分割后的字符串数组

hive (test)> select * from split_test;
OK
split_test.id	split_test.info
1	a,b,c
2	d,e,f
3
4	NULL

将split_test表中的info字段转成数组

hive (test)> select id,split(info,',') as array_info, size(split(info,',')) as array_info_size   from split_test;
id	array_info	array_info_size
1	["a","b","c"]	3
2	["d","e","f"]	3
3	[""]	        1
4	NULL	       -1

二.map介绍

语法:

map(k1,v1,k2,v2,...)

描述

map是一组键-值对元组集合,map类型的数据可以通过'列名['key']的方式访问

创建map

create table map_test
(
 id int
 ,course map<string,int>
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'
COLLECTION ITEMS TERMINATED BY ','
MAP KEYS TERMINATED BY ':'
;

MAP KEYS TERMINATED BY :key value分隔符

准备数据: map_test.txt

1	chinese:80,math:90,english:100
2	chinese:95,math:70
3	

加载数据

LOAD DATA LOCAL INPATH '/Users/admin/Documents/bigdata/test_file/map_test.txt' OVERWRITE INTO TABLE map_test;

查询数据

hive (test)> select * from map_test;
map_test.id	map_test.course
1	{"chinese":80,"math":90,"english":100}
2	{"chinese":95,"math":70}
3	{}

查询map的长度:size(map)

hive (test)> select id,size(course) from map_test;
id	_c1
1	  3
2	  2
3	  0

查询map字段中的某个元素:map['parame']

hive (test)> select id,course['math'] as math from map_test;
OK
id	math
1	90
2	70
3	NULL

查询map中所有的key, 返回值类型为 array:map_keys(map)

hive (test)> select id,map_keys(course)  as key from map_test;
id	key
1	["chinese","math","english"]
2	["chinese","math"]
3	[]

查询map中所有的value,返回值类型为array:map_values(map)

hive (test)> select id,map_values(course)  as value from map_test;
id	value
1	[80,90,100]
2	[95,70]
3	[]

判断map中是否包含某个key值:array_contains(map_keys(map))

hive (test)> select * from map_test where array_contains(map_keys(course),'math');
map_test.id	map_test.course
1	{"chinese":80,"math":90,"english":100}
2	{"chinese":95,"math":70}

一行转多行(行转列):lateral view explode(map)

hive (test)> select id,subject,score from map_test
           > lateral view explode(course) a as subject,score;
id	subject	score
1	chinese	80
1	math	  90
1	english	100
2	chinese	95
2	math	  70

三.struct介绍

语法

struct(val1, val2, val3, ...) ,struct内部的元素类型可以为array,map,struct复杂结构

描述

和C语言中的struct或者对象类似,都可以通过"点"符号访问元素内容。例如,如果某个列的数据类型为struct{first string,last string},那么第一个元素可以通过字段名.first来引用

创建struct表

create table struct_test
(
  id int
  ,info struct<name:string,age:int>
)
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'
COLLECTION ITEMS TERMINATED BY ','
MAP KEYS TERMINATED BY ':'
;

准备数据

LOAD DATA LOCAL INPATH '/Users/admin/Documents/bigdata/test_file/struct_test.txt' OVERWRITE INTO TABLE struct_test;

查询数据

hive (test)> select * from struct_test;;
struct_test.id	struct_test.info
1	{"name":"zs","age":18}
2	{"name":"ls","age":22}
3	{"name":"ww","age":30}

struct 无size()函数

hive (test)> select id,size(info) from struct_test;
FAILED: SemanticException [Error 10016]: Line 1:15 Argument type mismatch 'info': "map" or "list" is expected at function SIZE, but "struct<name:string,age:int>" is found

查询struct中的元素:struct.元素名称

hive (test)> select id,info.name,info.age from struct_test;
id	name	age
1	  zs	18
2	  ls	22
3	  ww	30

相关推荐

方差分析简介(方差分析通俗理解)

介绍方差分析(ANOVA,AnalysisofVariance)是一种广泛使用的统计方法,用于比较两个或多个组之间的均值。单因素方差分析是方差分析的一种变体,旨在检测三个或更多分类组的均值是否存在...

正如404页面所预示,猴子正成为断网元凶--吧嗒吧嗒真好吃

吧嗒吧嗒,绘图:MakiNaro你可以通过加热、冰冻、水淹、模塑、甚至压溃压力来使网络光缆硬化。但用猴子显然是不行的。光缆那新挤压成型的塑料外皮太尼玛诱人了,无法阻挡一场试吃盛宴的举行。印度政府正...

Python数据可视化:箱线图多种库画法

概念箱线图通过数据的四分位数来展示数据的分布情况。例如:数据的中心位置,数据间的离散程度,是否有异常值等。把数据从小到大进行排列并等分成四份,第一分位数(Q1),第二分位数(Q2)和第三分位数(Q3)...

多组独立(完全随机设计)样本秩和检验的SPSS操作教程及结果解读

作者/风仕在上一期,我们已经讲完了两组独立样本秩和检验的SPSS操作教程及结果解读,这期开始讲多组独立样本秩和检验,我们主要从多组独立样本秩和检验介绍、两组独立样本秩和检验使用条件及案例的SPSS操作...

方差分析 in R语言 and Excel(方差分析r语言例题)

今天来写一篇实际中比较实用的分析方法,方差分析。通过方差分析,我们可以确定组别之间的差异是否超出了由于随机因素引起的差异范围。方差分析分为单因素方差分析和多因素方差分析,这一篇先介绍一下单因素方差分析...

可视化:前端数据可视化插件大盘点 图表/图谱/地图/关系图

前端数据可视化插件大盘点图表/图谱/地图/关系图全有在大数据时代,很多时候我们需要在网页中显示数据统计报表,从而能很直观地了解数据的走向,开发人员很多时候需要使用图表来表现一些数据。随着Web技术的...

matplotlib 必知的 15 个图(matplotlib各种图)

施工专题,我已完成20篇,施工系列几乎覆盖Python完整技术栈,目标只总结实践中最实用的东西,直击问题本质,快速帮助读者们入门和进阶:1我的施工计划2数字专题3字符串专题4列表专题5流程控制专题6编...

R ggplot2常用图表绘制指南(ggplot2绘制折线图)

ggplot2是R语言中强大的数据可视化包,基于“图形语法”(GrammarofGraphics),通过分层方式构建图表。以下是常用图表命令的详细指南,涵盖基本语法、常见图表类型及示例,适合...

Python数据可视化:从Pandas基础到Seaborn高级应用

数据可视化是数据分析中不可或缺的一环,它能帮助我们直观理解数据模式和趋势。本文将全面介绍Python中最常用的三种可视化方法。Pandas内置绘图功能Pandas基于Matplotlib提供了简洁的绘...

Python 数据可视化常用命令备忘录

本文提供了一个全面的Python数据可视化备忘单,适用于探索性数据分析(EDA)。该备忘单涵盖了单变量分析、双变量分析、多变量分析、时间序列分析、文本数据分析、可视化定制以及保存与显示等内容。所...

统计图的种类(统计图的种类及特点图片)

统计图是利用几何图形或具体事物的形象和地图等形式来表现社会经济现象数量特征和数量关系的图形。以下是几种常见的统计图类型及其适用场景:1.条形图(BarChart)条形图是用矩形条的高度或长度来表示...

实测,大模型谁更懂数据可视化?(数据可视化和可视化分析的主要模型)

大家好,我是Ai学习的老章看论文时,经常看到漂亮的图表,很多不知道是用什么工具绘制的,或者很想复刻类似图表。实测,大模型LaTeX公式识别,出乎预料前文,我用Kimi、Qwen-3-235B...

通过AI提示词让Deepseek快速生成各种类型的图表制作

在数据分析和可视化领域,图表是传达信息的重要工具。然而,传统图表制作往往需要专业的软件和一定的技术知识。本文将介绍如何通过AI提示词,利用Deepseek快速生成各种类型的图表,包括柱状图、折线图、饼...

数据可视化:解析箱线图(box plot)

箱线图/盒须图(boxplot)是数据分布的图形表示,由五个摘要组成:最小值、第一四分位数(25th百分位数)、中位数、第三四分位数(75th百分位数)和最大值。箱子代表四分位距(IQR)。IQR是...

[seaborn] seaborn学习笔记1-箱形图Boxplot

1箱形图Boxplot(代码下载)Boxplot可能是最常见的图形类型之一。它能够很好表示数据中的分布规律。箱型图方框的末尾显示了上下四分位数。极线显示最高和最低值,不包括异常值。seaborn中...