百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

「挑战30万年薪」 Hive语句详解之DML操作「元数据存储」

bigegpt 2024-09-14 00:15 33 浏览

DML操作:

hive不支持用insert语句一句一句的进行插入操作,也不支持update操作。

数据是以load的方式加载到建立好的表中。

数据一旦导入就不能进行修改。

DML包括什么?

  • 插入:INSERT 更新:UPDATE 删除:DELETE

  • 向数据表内加载文件

  • 将查询结果插入到Hive中

  • insert into

向数据表内加载数据

LOAD DATA [LOCAL] INPATH 'filepath' [OVERWRITE] INTO TABLE tablename [PARTITION (partcol = val,partcol1 = val1 ,....)]

解释:

  • LOAD 将数据文件移动到Hive表对应位置 。

  • filepath

  • 相对路径,例如:project/data1

  • 绝对路径,例如:/user/hive/project/data1

  • 包含模式的完整URL地址,例如:hdfs://namenode:9000/user/hive/project/data1

加载本地数据,并且给定分区信息:

加载的目标可以是一个表或者分区

如果表包含分区,就必须指定每一个分区的分区名

filepath可以引用一个文件(Hive会将文件移动到对应目录)或者一个目录

LOCAL关键字:

  • 指定了LOCAL,及本地

  • load命令去查找本地文件系统中的filepath

  • 如果发现是相同的路径,则会被解释为该用户的当前路径

  • 用户也可以为本地文件指定一个完整的URL,如:file:///user/hive/project/data1.

  • load 命令会将filepath中的文件复制到目标文件系统中。

  • 目标文件系统由表的位置属性决定。

  • 被复制的数据文件移动到表的数据对应位置。

例如:加载本地数据,同时给定分区信息:

LOAD DATA LACAL INPATH './file/test.txt' OVERWRITE INTO TABLE invites PARTITION (DS = '2020-07-04');

解释:

  • 没有指定LOCAL,如果filepath指向是一个完整的URL,hive会直接使用这个url。

  • 如果没有指定schema或者authority,Hive会使用在Hadoop配置文件定义的schema和authority,fs.default.name指定了Namenode的url

  • 如果路径不说绝对的,Hive相对于/user/进行操作。Hive会将filepath中的文件移动到table或者partition所指定的路径中。

加载DFS数据,同时给定分区信息

LOAD DATA INPATH '/user/myname/kv2.txt' OVERWRITE INTO TABLE invites PARTITION(ds='2020-07-04); The above command will load data from an HDFS file/directory to the table.Note that loading data from HDFS will result in moving the file/directory.As a result,the operation is almost instantaneous.

OVERWRITE

  • 指定overwrite

  • 目标表或者分区中的内容如果有会被删除,然后再将filepath指向文件/目录的内容加载到表/分区中。

  • 如果表/分区已经有一个文件,并且文件名和filepath中的文件名冲突,那么现有的文件会被新文件代替覆盖。

将查询结果插入Hive表中:

将查询结果插入Hive表

将查询结果写入HDFS文件系统

基本模式

INSERTOVERWRITE TABLE tablename1[PARTITION(partcol1=val1,partcol2=val2...)]

select_statement1 FROM from_statement

多插入模式

FROM from_statement

INSERT OVERWRITE TABLE tablename1 [PARTITION(partcoli=vall,partcol2=val2....)] select statementi [INSERT OVERWRITE TABLE tablename2 [PARTITION..] select_ statement2].…

自动分区模式

INSERT OVERWRITE TABLE tablename PARTITION(partcol1[=val1],partcol2[=val2]...)select_statement FROM from_statement

将查询结果写入HDFS文件系统:

INSERT OVERWRITE [LOCAL] DIRECTORY directory1 SELECT..…FROM..… FROM from_statement

INSERT OVERWRITE [LOCAL] DIRECTORY directory1 select_ statement1 [INSERT OVERWRITE [LOCAL] DIRECTORY directory2 select_statement2]

数据写入文件系统时进行文本序列化,且每列用~A来区分,n换行

INSERT INTO

INSERT INTO TABLE tablename1 [PARTITION(partcol1=val1,partcol2=val2..…)] select_ statement1 FROM from_statement


如果觉得对你有所帮助。记得收藏和关注呦!(每日更新各种大数据框架)

如需转载请注明出处(创作不易请见谅)

和巨婴程序猿一起成长。让自己变得更优秀

想了解更多精彩内容,快来关注跟着巨婴去逆袭

我最近一直在思考(大数据通俗讲解)的问题,你的看法是什么呢?关注我快说出来一起交流一下吧~

相关推荐

当Frida来“敲”门(frida是什么)

0x1渗透测试瓶颈目前,碰到越来越多的大客户都会将核心资产业务集中在统一的APP上,或者对自己比较重要的APP,如自己的主业务,办公APP进行加壳,流量加密,投入了很多精力在移动端的防护上。而现在挖...

服务端性能测试实战3-性能测试脚本开发

前言在前面的两篇文章中,我们分别介绍了性能测试的理论知识以及性能测试计划制定,本篇文章将重点介绍性能测试脚本开发。脚本开发将分为两个阶段:阶段一:了解各个接口的入参、出参,使用Python代码模拟前端...

Springboot整合Apache Ftpserver拓展功能及业务讲解(三)

今日分享每天分享技术实战干货,技术在于积累和收藏,希望可以帮助到您,同时也希望获得您的支持和关注。架构开源地址:https://gitee.com/msxyspringboot整合Ftpserver参...

Linux和Windows下:Python Crypto模块安装方式区别

一、Linux环境下:fromCrypto.SignatureimportPKCS1_v1_5如果导包报错:ImportError:Nomodulenamed'Crypt...

Python 3 加密简介(python des加密解密)

Python3的标准库中是没多少用来解决加密的,不过却有用于处理哈希的库。在这里我们会对其进行一个简单的介绍,但重点会放在两个第三方的软件包:PyCrypto和cryptography上,我...

怎样从零开始编译一个魔兽世界开源服务端Windows

第二章:编译和安装我是艾西,上期我们讲述到编译一个魔兽世界开源服务端环境准备,那么今天跟大家聊聊怎么编译和安装我们直接进入正题(上一章没有看到的小伙伴可以点我主页查看)编译服务端:在D盘新建一个文件夹...

附1-Conda部署安装及基本使用(conda安装教程)

Windows环境安装安装介质下载下载地址:https://www.anaconda.com/products/individual安装Anaconda安装时,选择自定义安装,选择自定义安装路径:配置...

如何配置全世界最小的 MySQL 服务器

配置全世界最小的MySQL服务器——如何在一块IntelEdison为控制板上安装一个MySQL服务器。介绍在我最近的一篇博文中,物联网,消息以及MySQL,我展示了如果Partic...

如何使用Github Action来自动化编译PolarDB-PG数据库

随着PolarDB在国产数据库领域荣膺桂冠并持续获得广泛认可,越来越多的学生和技术爱好者开始关注并涉足这款由阿里巴巴集团倾力打造且性能卓越的关系型云原生数据库。有很多同学想要上手尝试,却卡在了编译数据...

面向NDK开发者的Android 7.0变更(ndk android.mk)

订阅Google官方微信公众号:谷歌开发者。与谷歌一起创造未来!受Android平台其他改进的影响,为了方便加载本机代码,AndroidM和N中的动态链接器对编写整洁且跨平台兼容的本机...

信创改造--人大金仓(Kingbase)数据库安装、备份恢复的问题纪要

问题一:在安装KingbaseES时,安装用户对于安装路径需有“读”、“写”、“执行”的权限。在Linux系统中,需要以非root用户执行安装程序,且该用户要有标准的home目录,您可...

OpenSSH 安全漏洞,修补操作一手掌握

1.漏洞概述近日,国家信息安全漏洞库(CNNVD)收到关于OpenSSH安全漏洞(CNNVD-202407-017、CVE-2024-6387)情况的报送。攻击者可以利用该漏洞在无需认证的情况下,通...

Linux:lsof命令详解(linux lsof命令详解)

介绍欢迎来到这篇博客。在这篇博客中,我们将学习Unix/Linux系统上的lsof命令行工具。命令行工具是您使用CLI(命令行界面)而不是GUI(图形用户界面)运行的程序或工具。lsoflsof代表&...

幻隐说固态第一期:固态硬盘接口类别

前排声明所有信息来源于网络收集,如有错误请评论区指出更正。废话不多说,目前固态硬盘接口按速度由慢到快分有这几类:SATA、mSATA、SATAExpress、PCI-E、m.2、u.2。下面我们来...

新品轰炸 影驰SSD多款产品登Computex

分享泡泡网SSD固态硬盘频道6月6日台北电脑展作为全球第二、亚洲最大的3C/IT产业链专业展,吸引了众多IT厂商和全球各地媒体的热烈关注,全球存储新势力—影驰,也积极参与其中,为广大玩家朋友带来了...