百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

在Hive中使用CUBE,ROLLUP,GROUPING SETS等分析函数

bigegpt 2024-08-20 11:06 2 浏览

在上次介绍了Sql中的窗口分析函数,本次在Hive上进行实操说明CUBE,ROLLUP,GROUPING SETS等分析函数。

对于这些函数子句可以认为是对于 Hive中的 增强型聚合函数 ,可以使用它们构建小型的多维分析模型

  • CUBE创建列集维度的所有可能组合的小计。一旦在一组维度上计算了一个立方体,我们就可以得到这些维度上所有可能的聚合问题的答案
 GROUP BY a, b, c WITH CUBE 相当于如下两种表示
 GROUP BY a, b, c 
 GROUPING SETS ( (a, b, c), (a, b), (b, c), (a, c), (a), (b), (c), ( ))
  • ROLLUP子句与GROUP BY一起用于计算维度层次结构级别的聚合
 GROUP BY a, b, c with ROLLUP 是构建从 a 钻探到b钻探到c的层次结构数据 相当于
 GROUPING SETS ( (a, b, c), (a, b), (a), ( ))

普通的 聚合函数

SELECT CategoryName , SalesCountry , sum(SalesAmount) SalesAmount 
FROM InternetSales GROUP BY CategoryName , SalesCountry 
  • 使用GROUPING SETS子句及其对应的使用常规gourping by 后union 起来的结果,这样语句量会变得小的多。
SELECT CategoryName , SalesCountry , sum(SalesAmount) 
FROM InternetSales 
GROUP BY CategoryName , SalesCountry 
GROUPING SETS((CategoryName , SalesCountry),CategoryName) 

对应的 grouping by 后的 union 语句

SELECT CategoryName , SalesCountry , sum(SalesAmount) SalesAmount 
FROM InternetSales 
GROUP BY CategoryName , SalesCountry 
UNION ALL
SELECT CategoryName , null SalesCountry, sum(SalesAmount) SalesAmount 
FROM InternetSales 
GROUP BY CategoryName 

在上述的 使用GROUPING SETS或CUBE,ROLLUP进行聚合的时候,会得到对于null的汇总的结果,但是对于这种情况,无法判断,值原来就是null还是在聚合的过程组合而成的null。 这可能会发生冲突。需要有一些方法来标识列中的NULL是值,也就是说用来表示列中聚合的NULL是值。 GROUPING__ID函数就用来解决这个问题。如下例子:

SELECT WeightUnitMeasureCode , SizeUnitMeasureCode , COUNT(*) CNT

FROM test.DimProduct

GROUP BY WeightUnitMeasureCode , SizeUnitMeasureCode WITH CUBE

对应的 grouping__id进行对null进行区分和编号

所以使用 GROUPING__ID进行分组标识 , 通过 GROUPING__ID 可以得到
SELECT WeightUnitMeasureCode , SizeUnitMeasureCode , GROUPING__ID , COUNT(*) CNT FROM test.DimProduct
GROUP BY WeightUnitMeasureCode , SizeUnitMeasureCode WITH CUBE

相关推荐

悠悠万事,吃饭为大(悠悠万事吃饭为大,什么意思)

新媒体编辑:杜岷赵蕾初审:程秀娟审核:汤小俊审签:周星...

高铁扒门事件升级版!婚宴上‘冲喜’老人团:我们抢的是社会资源

凌晨两点改方案时,突然收到婚庆团队发来的视频——胶东某酒店宴会厅,三个穿大红棉袄的中年妇女跟敢死队似的往前冲,眼瞅着就要扑到新娘的高额钻石项链上。要不是门口小伙及时阻拦,这婚礼造型团队熬了三个月的方案...

微服务架构实战:商家管理后台与sso设计,SSO客户端设计

SSO客户端设计下面通过模块merchant-security对SSO客户端安全认证部分的实现进行封装,以便各个接入SSO的客户端应用进行引用。安全认证的项目管理配置SSO客户端安全认证的项目管理使...

还在为 Spring Boot 配置类加载机制困惑?一文为你彻底解惑

在当今微服务架构盛行、项目复杂度不断攀升的开发环境下,SpringBoot作为Java后端开发的主流框架,无疑是我们手中的得力武器。然而,当我们在享受其自动配置带来的便捷时,是否曾被配置类加载...

Seata源码—6.Seata AT模式的数据源代理二

大纲1.Seata的Resource资源接口源码2.Seata数据源连接池代理的实现源码3.Client向Server发起注册RM的源码4.Client向Server注册RM时的交互源码5.数据源连接...

30分钟了解K8S(30分钟了解微积分)

微服务演进方向o面向分布式设计(Distribution):容器、微服务、API驱动的开发;o面向配置设计(Configuration):一个镜像,多个环境配置;o面向韧性设计(Resista...

SpringBoot条件化配置(@Conditional)全面解析与实战指南

一、条件化配置基础概念1.1什么是条件化配置条件化配置是Spring框架提供的一种基于特定条件来决定是否注册Bean或加载配置的机制。在SpringBoot中,这一机制通过@Conditional...

一招解决所有依赖冲突(克服依赖)

背景介绍最近遇到了这样一个问题,我们有一个jar包common-tool,作为基础工具包,被各个项目在引用。突然某一天发现日志很多报错。一看是NoSuchMethodError,意思是Dis...

你读过Mybatis的源码?说说它用到了几种设计模式

学习设计模式时,很多人都有类似的困扰——明明概念背得滚瓜烂熟,一到写代码就完全想不起来怎么用。就像学了一堆游泳技巧,却从没下过水实践,很难真正掌握。其实理解一个知识点,就像看立体模型,单角度观察总...

golang对接阿里云私有Bucket上传图片、授权访问图片

1、为什么要设置私有bucket公共读写:互联网上任何用户都可以对该Bucket内的文件进行访问,并且向该Bucket写入数据。这有可能造成您数据的外泄以及费用激增,若被人恶意写入违法信息还可...

spring中的资源的加载(spring加载原理)

最近在网上看到有人问@ContextConfiguration("classpath:/bean.xml")中除了classpath这种还有其他的写法么,看他的意思是想从本地文件...

Android资源使用(android资源文件)

Android资源管理机制在Android的开发中,需要使用到各式各样的资源,这些资源往往是一些静态资源,比如位图,颜色,布局定义,用户界面使用到的字符串,动画等。这些资源统统放在项目的res/独立子...

如何深度理解mybatis?(如何深度理解康乐服务质量管理的5个维度)

深度自定义mybatis回顾mybatis的操作的核心步骤编写核心类SqlSessionFacotryBuild进行解析配置文件深度分析解析SqlSessionFacotryBuild干的核心工作编写...

@Autowired与@Resource原理知识点详解

springIOCAOP的不多做赘述了,说下IOC:SpringIOC解决的是对象管理和对象依赖的问题,IOC容器可以理解为一个对象工厂,我们都把该对象交给工厂,工厂管理这些对象的创建以及依赖关系...

java的redis连接工具篇(java redis client)

在Java里,有不少用于连接Redis的工具,下面为你介绍一些主流的工具及其特点:JedisJedis是Redis官方推荐的Java连接工具,它提供了全面的Redis命令支持,且...