百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

大数据Hive-用ER图快速理解Hive元数据

bigegpt 2024-08-26 11:15 3 浏览

Hive元数据

Hive的元数据保存在Hive的metastore数据中,里面记录着Hive数据库、表、分区、列当前的一些状态信息,通过收集这些状态信息,可以帮助我们更好监控Hive数据库当前的状态,提前感知可能存在的问题;可以帮助基于成本代价的SQL查询优化,做更为正确的自动优化操作。

扩展:在Hive 3.0以后,可以在Hive的sys数据中找到元数据表。

Hive的元数据主要分为5个大部分:数据库相关的元数据、表相关的元数据、分区相关的元数据、文件存储相关的元数据及其它。

1.Hive数据库级别的元数据

数据库的元数据以及这些元数据之间的关系如图4.2所示。

DBS:描述Hive中所有的数据库库名、存储地址(用字段DB_LOCATION_URI表示)、拥有者、拥有者类型。DBS表的内容如图4.3所示。

Hive可以通过命令“desc database库名”来查询DBS的信息,如图4.4所示。

DATABASE_PARAMS:描述数据库的属性信息(DBPROPERTIES)。例如创建一个带有库属性信息的库,代码如下:

create database db_test_pro with dbproperties('key_a'='value_a');

查询MySQL中的DATABASE_PARAMS表,会见到如图4.5所示的信息。在Hive中可以使用命令“desc database extended db_test_pro;”来查询DBPROPERTIES的信息。

DB_PRIVS:描述数据库的权限信息。

FUNCS:记录用户自己编写的函数信息(UDF),包括该函数的函数名、对应的类名、创建者等信息。用户可以通过命令“create function函数名…”来创建自定义函数。

FUNCS_RU:记录自定义函数,所在文件的路径,例如使用Java编写Hive的自定义函数,该表会记录该函数所在JAR包的HDFS存储位置,以及该JAR包引用的其它JAR包信息。

2.Hive表级别的元数据

表的元数据以及这些元数据之间的关系如图4.6所示。

图4.6可以包含以下几个表:

TBLS:记录Hive数据库创建的所有表,包含表所属的数据库、创建时间、创建者、表的类型(包括内部表、外部表、虚拟视图等)。在Hive中使用命令“desc formatted表名”,查看Detailed Table Information一节的信息,如图4.7所示。

TABLE_PARAMS:表的属性信息,对应的是创建表所指定的TBLPROPERTIES内容或者通过收集表的统计信息。收集表的统计信息可以使用如下的命令:

Analyze table 表名 compute statistics

表的统计信息包含一般包含:表存储的文件个数(numFiles)、总文件大小(totalSize)、表的总行数(numRows)、分区数(numPartitions)、未压缩的每行的数据量(rawDataSize)等。

TAB_COL_STATS:表中列的统计信息,包括数值类型的最大和最小值,如LONG_LOW_VALUE、LONG_HIGH_VALUE、DOUBLE_HIGH_VALUE、DOUBLE_LOW_VALUE、BIG_DECIMAL_LOW_VALUE、BIG_DECIMAL_HIGHT_VALUE、空值的个数、列去重的数值、列的平均长度、最大长度、值为TRUE/FALSE的个数等。

TBL_PRIVS:表或者视图的授权信息,包括授权用户、被授权用户、授权的权限等。

TBL_COL_PRIVS:表或者视图中列的授权信息,包括授权用户、被授权的用户、授权的权限等。

PARTITION_KEYS:表的分区列。

IDXS:Hive中索引的信息,Hive 3.0已经废弃。

3.Hive分区级别的元数据

分区的元数据以及这些元数据之间的关系如图4.8所示。

图4.8包含以下几个表:

  • PARTITIONS:存储分区信息,包括分区列,分区创建的时间。
  • PARTITION_PARAMS:存储分区的统计信息,类似同表的统计信息一样。
  • PARTITION_COL_STATS:分区中列的统计信息,类似表的列统计信息一致。
  • PART_PRIVS:分区的授权信息,类似表的授权信息。
  • PART_COL_PRIVS:分区列的授权信息,类似表的字段授权信息。
  • PARTITION_KEY_VALS:分区列对应的值。

4.Hive数据存储级别的元数据

数据存储的元数据以及这些元数据之间关系如图4.9所示。

图4.9主要包含以下几个表的内容:

  • SDS:保存数据存储的信息,包含分区、表的存储的HDFS路径地址、输入格式(INPUTFORMAT)、输出格式(OUTPUTFORMAT)、分桶的数量、是否有压缩、是否包含二级子目录。
  • CDSCOLUMN_V2:表示该分区、表存储的字段信息,包含字段名称、类型等
  • SORT_COLS:保存Hive表、分区有排序的列信息,包括列名、排序方式等。
  • BUCKETING_COLS:保存Hive表,分区分桶列的信息、列名等。
  • SERDES:保存Hive表、分区序列化和反序列化的方式。
  • SERDES_PARAMS:保存Hive,分区序列化和反序列化的配置属性,例如行的间隔符(line.delim)、字段的间隔符(filed.delim)。
  • SKEWED_COL_NAMES:保存表、分区有数据倾斜的列信息,包括列名。
  • SKEWED_VALUES:保存表、分区有数据倾斜的列值信息
  • SKEWED_COL_VALUE_LOC_MAP:保存表、分区倾斜列对应的本地文件路径。
  • SKEWED_STRING_LISTSKEWED_STRING_LIST_VALUES:保存表,分区有数据倾斜的字符串列表和值信息。

5.其它

Hive的元数据还包含很多的内容,例如Hive的事务信息、锁信息以及权限相关的信息等。在优化的时候用到比较少,这里不多提。


#Hive# #Hive性能调优实战# #大数据#

相关推荐

Docker篇(二):Docker实战,命令解析

大家好,我是杰哥上周我们通过几个问题,让大家对于Docker有了一个全局的认识。然而,说跟练往往是两个概念。从学习的角度来说,理论知识的学习,往往只是第一步,只有经过实战,才能真正掌握一门技术所以,本...

docker学习笔记——安装和基本操作

今天学习了docker的基本知识,记录一下docker的安装步骤和基本命令(以CentOS7.x为例)一、安装docker的步骤:1.yuminstall-yyum-utils2.yum-con...

不可错过的Docker完整笔记(dockerhib)

简介一、Docker简介Docker是一个开源的应用容器引擎,基于Go语言并遵从Apache2.0协议开源。Docker可以让开发者打包他们的应用以及依赖包到一个轻量级、可移植的容器中,...

扔掉运营商的 IPTV 机顶盒,全屋全设备畅看 IPTV!

其实现在看电视节目的需求确实大大降低了,折腾也只是为了单纯的让它实现,享受这个过程带来的快乐而已,哈哈!预期构想家里所有设备直接接入网络随时接收并播放IPTV直播(电信点播的节目不是太多,但好在非常稳...

第五节 Docker 入门实践:从 Hello World 到容器操作

一、Docker容器基础运行(一)单次命令执行通过dockerrun命令可以直接在容器中执行指定命令,这是体验Docker最快捷的方式:#在ubuntu:15.10容器中执行ech...

替代Docker build的Buildah简单介绍

Buildah是用于通过较低级别的coreutils接口构建OCI兼容镜像的工具。与Podman相似,Buildah不依赖于Docker或CRI-O之类的守护程序,并且不需要root特权。Builda...

Docker 命令大全(docker命令大全记录表)

容器生命周期管理run-创建并启动一个新的容器。start/stop/restart-这些命令主要用于启动、停止和重启容器。kill-立即终止一个或多个正在运行的容器rm-于删除一个或...

docker常用指令及安装rabbitMQ(docker安装rabbitmq配置环境)

一、docker常用指令启动docker:systemctlstartdocker停止docker:systemctlstopdocker重启docker:systemctlrestart...

使用Docker快速部署Storm环境(docker部署confluence)

Storm的部署虽然不是特别麻烦,但是在生产环境中,为了提高部署效率,方便管理维护,使用Docker来统一管理部署是一个不错的选择。下面是我开源的一个新的项目,一个配置好了storm与mono环境的D...

Docker Desktop安装使用指南:零基础教程

在之前的文章中,我多次提到使用Docker来安装各类软件,尤其是开源软件应用。鉴于不少读者对此有需求,我决定专门制作一期关于Docker安装与使用的详细教程。我主要以Macbook(Mac平台)为例进...

Linux如何成功地离线安装docker(linux离线安装httpd)

系统环境:Redhat7.2和Centos7.4实测成功近期因项目需要用docker,所以记录一些相关知识,由于生产环境是不能直接连接互联网,尝试在linux中离线安装docker。步骤1.下载...

Docker 类面试题(常见问题)(docker面试题目)

Docker常见问题汇总镜像相关1、如何批量清理临时镜像文件?可以使用sudodockerrmi$(sudodockerimages-q-fdanging=true)命令2、如何查看...

面试官:你知道Dubbo怎么优雅上下线的吗?你:优雅上下线是啥?

最近无论是校招还是社招,都进行的如火如荼,我也承担了很多的面试工作,在一次面试过程中,和候选人聊了一些关于Dubbo的知识。Dubbo是一个比较著名的RPC框架,很多人对于他的一些网络通信、通信协议、...

【Docker 新手入门指南】第五章:Hello Word

适合人群:完全零基础新手|学习目标:30分钟掌握Docker核心操作一、准备工作:先确认是否安装成功打开终端(Windows用户用PowerShell或GitBash),输入:docker--...

松勤软件测试:详解Docker,如何用portainer管理Docker容器

镜像管理搜索镜像dockersearch镜像名称拉取镜像dockerpullname[:tag]列出镜像dockerimages删除镜像dockerrmiimage名称或id删除...