千锋教育-做有情怀、有良心、有品质的IT职业教育机构

400-811-9990
当前位置:千锋视频教程 >  Java视频教程  >  Java学习之数据库查询Hive的分区

Java学习之数据库查询Hive的分区

时间:2018-05-04 11:26     来源:千锋视频教程 作者:千锋教育

在Hive Select查询中一般会扫描整个表的内容,会消耗很多时间做没必要的工作。有时候只需要扫描表中我们关心的一部分数据,因此建表时引入了partition概念。分区是一种根据“分区列”(partition column)的值对表进行粗略划分的机制。Hive中的每个分区对应数据库中相应分区列的一个索引,每个分区对应着表下的一个目录,在HDFS上的表现形式与表在HDFS上的表现形式相同,都是以子目录的形式存在。

1. 什么是分区

分区是表的部分列的集合,可以为频繁使用的数据建立分区,这样查找分区中的数据时就不需要扫描全表,这对于提高查找效率很有帮助。创建分区本质上是在表的目录下创建目录,是对数据的细粒度的管理。

2. 为什么分区

数据量越来越大,hive查询会全表扫描,浪费时间。创建分区,只查询我们关心的那部分数据,提高查询效率。

3. 怎么分区

主要根据具体业务进行分区,数据会依照单个或多个列进行分区,通常按照时间、地域或者是商业维度进行分区。创建表的时候使用partitioned by (字段名 字段类型)进行分区,可以创建多级分区。

4. 分区的操作

4.1 创建一级分区

##创建数据库名为studentinfo

create database if not exists studentinfo;

##在数据库下创建大数据学生表bigdata_stu,并按照字段 year 进行分区

create table if not exists studentinfo.bigdata_stu(

id int,

name string,

sex tinyint

)

partitioned by (year int)

row format delimited fields terminated by ‘,'

;

##为分区表加载加载数据

load data local inpath ‘/root/Desktop/bigdata_stu.txt' into table bigdata_stu partition (YEAR=2017);

load data local inpath ‘/root/Desktop/bigdata_stu1.txt' into table bigdata_stu partition (YEAR=2018);

##查询分区为2017的数据

select * from studentinfo.bigdata_stu where yeAr=2017;

数据库查询

4.2 创建二级分区

##在数据库下创建大数据学生表bigdata_stu1,并按照字段 year,month 进行分区

create table if not exists studentinfo.bigdata_stu1(

id int,

name string,

sex tinyint

)

partitioned by (year int,month int)

row format delimited fields terminated by ‘,'

;

##为分区表加载数据

load data local inpath ‘/root/Desktop/bigdata_stu.txt' into table bigdata_stu1 partition (year=2017,month=1);

load data local inpath ‘/root/Desktop/bigdata_stu.txt' into table bigdata_stu1 partition (YEAR=2017,month=2);

##查询2017年1月的大数据学员信息

select * from studentinfo.bigdata_stu1 where year=2017 and month=1;

4.3 对分区进行操作

4.3.1 显示分区

show partitions studentinfo.bigdata_stu1;

4.3.2 新增分区

alter table studentinfo.bigdata_stu1 add

partition(year=2017,month=3);

alter table studentinfo.bigdata_stu1 add partition(year=2017,month=4) partition(year=2016,month=12);

4.3.3 新增分区并加载数据:

alter table studentinfo.bigdata_stu1 add partition(year=2016,month=11) location "/user/hive/warehouse/studentinfo.db/bigdata_stu/year=2017/month=2";

4.3.4 修改分区所对应的存储路径:

##路径必须从hdfs写起

alter table studentinfo.bigdata_stu1 partition(year=2016,month=11) set location "hdfs://linux1:9000/user/hive/studentinfo.db/bigdata_stu/year=2017/month=3";

4.3.5 删除分区:删除分区将会删除对应的分区目录(数据)

##删除某个分区

alter table studentinfo.bigdata_stu1 drop partition(year=2017,month=2);

##删除多个

alter table studentinfo.bigdata_stu1 drop partition(year=2017,month=3),partition(year=2017,month=4);

5.分区的细节

5.1 分区名不区分大小写,不建议使用中文

5.2 分区使用的字段是表外字段,只存在于元数据中,数据中不存在

5.3 分区的本质就是在表的目录下创建目录

5.4 可以创建多级分区

  • 北京天丰利校区(总部):北京市海淀区宝盛北里西区28号天丰利商城4层
    北京沙河校区:北京市昌平区沙阳路18号北京科技职业技术学院广场服务楼2层、南区服务楼2层
    咨询电话:400-186-9990 010-82790226-801
    面授课程:全栈HTML5+培训、UI交互设计培训、PHP培训、JavaEE+云数据培训、大数据开发培训、VR/AR混合现实培训、Python培训、Linux云计算培训、软件测试培训、Android培训、iOS培训、好程序员
  • 深圳西部硅谷校区地址:深圳市宝安区宝安大道5010号深圳西部硅谷A区B座605-619
    深圳大学城校区地址:深圳市南山区留仙大道1201号大学城创客小镇16栋2楼、3楼
    咨询电话:0755-33582485-801(硅谷校区)0755-86660670-801(大学城校区)
    面授课程:全栈HTML5+培训、UI交互设计培训、PHP培训、JavaEE+云数据培训、Android培训、iOS培训
  • 上海校区地址:上海市宝山区同济支路199号智慧七立方3号楼2-4层
    咨询电话:400-627-7899 021-56166283/56166279
    面授课程:全栈HTML5+培训、UI交互设计培训、JavaEE+云数据培训、Android课程培训、iOS课程培训、好程序员
  • 郑州校区地址:郑州市金水区纬五路21号河南教育学院综合楼(经纬中学楼)7/8层
    咨询电话:0371-55191750 400-186-9990
    面授课程:全栈HTML5+培训、UI交互设计培训、PHP培训、JavaEE+云数据培训、Android课程培训、iOS课程培训
  • 广州校区地址:广州市天河区元岗路310号智汇park创意园E座5层
    咨询电话:020-22119207 400-186-9990
    面授课程:全栈HTML5+培训、JavaEE+云数据培训、Android课程培训、iOS课程培训
  • 大连校区地址:辽宁省大连市甘井子区软件园路2号东软信息学院B5座一楼
    咨询电话:0411-39026086 400-186-9990
    面授课程:全栈HTML5+培训、JavaEE+云数据培训、UI交互设计培训、Android课程培训、iOS课程培训
  • 武汉校区地址:武汉市光谷大道61号智慧园21号楼2层
    咨询电话:027-65523826
    面授课程:全栈HTML5+培训、JavaEE+云数据培训、Android课程培训、iOS课程培训
  • 成都校区地址:成都市武侯区科华北路62号力宝大厦N(北楼)18楼
    咨询电话:028-83178771
    面授课程:全栈HTML5+培训、UI交互设计培训、PHP培训、JavaEE+云数据培训、Android课程培训、iOS课程培训
  • 西安校区地址:西安市雁塔区高新六路52号立人科技C座西区4楼
    咨询电话:029-85260160
    面授课程:全栈HTML5+培训、JavaEE+云数据培训、Android课程培训
  • 杭州校区地址:浙江省杭州市江干区九堡旺田书画城A座4层
    咨询电话:0571-86893632 010-82790226-801
    面授课程:全栈HTML5+培训、JavaEE+云数据培训、Android课程培训、iOS课程培训
  • 青岛校区地址:青岛市市北区龙城路卓越世纪中心3号楼8层
    咨询电话:0532-80910752/3 010-82790226-801
    面授课程:全栈HTML5+培训、UI交互设计培训、JavaEE+云数据培训、Android课程培训、iOS课程培训
  • 重庆校区地址:重庆市高新区科园一路2号大西洋国际12-1
    咨询电话:023-68883009
    面授课程:JavaEE+云数据课程培训
  • 长沙校区地址:湖南省长沙市岳麓区麓谷企业广场A2栋三单元306号
    咨询电话:400-186-9990
    面授课程:JavaEE+云数据课程培训
  • 哈尔滨校区地址:哈尔滨市松北区创新一路699号科技创新城19号楼五楼
    咨询电话:15663846969
    面授课程:全栈HTML5+培训
  • 千锋教育服务号

    了解千锋动态
    关注千锋教育服务号

  • 千锋教育移动站

    扫一扫快速进入
    千锋移动端页面

  • 千锋互联服务号

    扫码匿名提建议
    直达CEO信箱