百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

Hive row_number()优化改写:MAX/MIN STRUCT函数

wxin55 2024-10-25 18:03 9 浏览 0 评论

大多数时候,我们需要找到特定列以及其他列的最大值或最小值(取首末次等:取第一行,或者最后一行的场景,通常我们会使用嵌套方法,首先里面这层使用 row_number 开窗计算出序号rn,外层过滤【下文方案2】。这次介绍使用max/min struct来代替他【下文方案3】)。例如,我们有以下员工表。

DESC employee;
+---------------+------------------------------+----------+--+
|   col_name    |          data_type           | comment  |
+---------------+------------------------------+----------+--+
| name          | string                       |          |
| work_place    | array<string>                |          |
| gender_age    | struct<gender:string,age:int>|          |
| skills_score  | map<string,int>              |          |
| depart_title  | map<string,array<string>>    |          |
+---------------+------------------------------+----------+--+
5 rows selected (0.186 seconds)

> SELECT name,gender_age.gender AS gender,gender_age.age AS age FROM employee;
+----------+---------+------+
|   name   |  gender | age  |
+----------+---------+------+
| Michael  | Male    | 30   |
| Will     | Male    | 35   |
| Shelley  | Female  | 27   |
| Lucy     | Female  | 57   |
| Steven   | Male    | 30   |
+----------+---------+------+
5 rows selected (75.887 seconds)

问题

谁是最年长的男性或女性?

有三种可用的解决方案。 注意,gender_age 是一个结构。

解决方案 1

最常用的方法是先在每个性别组中找到年龄的MAX,然后通过匹配性别和MAX年龄进行SELF JOIN,如下所示。这将创建两个阶段的工作并且效率高。

> SELECT employee.gender_age.gender, employee.gender_age.age, name 
> FROM
> employee JOIN 
> (
> SELECT 
> max(gender_age.age) as max_age, gender_age.gender as gender  
> FROM employee
> GROUP BY gender_age.gender
> ) maxage
> ON employee.gender_age.age = maxage.max_age
> AND employee.gender_age.gender = maxage.gender;
+--------------+------+-------+
| gender       | age  | name  |
+--------------+------+-------+
| Female       | 57   | Lucy  |
| Male         | 35   | Will  |
+--------------+------+-------+
2 rows selected (94.043 seconds)

解决方案 2

一旦 Hive 0.11.0 引入了分析功能,我们也可以使用 ROW_NUMBER 来解决问题,但只会触发一个 MapReduce 作业。

> SELECT gender, age, name
> FROM
> (
> SELECT gender_age.gender AS gender,
> ROW_NUMBER() OVER (PARTITION BY gender_age.gender ORDER BY gender_age.age DESC) AS row_num, 
> gender_age.age as age,name
> FROM employee
> ) t WHERE row_num = 1;
+---------+------+-------+
| gender  | age  | name  |
+---------+------+-------+
| Female  | 57   | Lucy  |
| Male    | 35   | Will  |
+---------+------+-------+
2 rows selected (61.655 seconds)

解决方案 3

实际上,自 Hive 0.6.0 以来,通过Hive-1128添加的MAX/MIN STRUCT函数有一种更好的方法,尽管它在 Hive Wiki 中的任何地方都没有记录。

> SELECT gender_age.gender, 
> max(struct(gender_age.age, name)).col1 as age,
> max(struct(gender_age.age, name)).col2 as name
> FROM employee
> GROUP BY gender_age.gender;
+--------------+------+-------+
| gender       | age  | name  |
+--------------+------+-------+
| Female       | 57   | Lucy  |
| Male         | 35   | Will  |
+--------------+------+-------+
2 rows selected (47.659 seconds)

上述作业仅触发一个 MapReduce 作业。我们仍然需要使用Group By子句。但是,我们可以使用MAX/MIN STRUCT函数在MAX/MIN值的同一行中显示所有其他列。默认情况下,如果不是Group By列,则Group By子句不允许SELECT列表中显示列。

概括

解决方案 3 在性能、查询复杂性和旧 Hive 的版本支持方面更好。解决方案 2 更好更强大,因为它不需要 GROUP BY 关键字。此外,上述解决方案均适用于 Spark SQL。

解决方案 3 :max/min struct 其实是把 row_number 中的partition by 信息改为group by,order by改为 struct 里面的参数。max/min struct 是依次比较struct 故也适用 order by 多个参数。

更多进阶干货:

Hive调优:如何实现并发?

HiveSQL高级进阶技巧案例(中)

ClickHouse安装部署与SQL实战

Apache Atlas | 元数据管理框架的独舞

大数据可视化BI工具,呕血总结,通幽洞微

相关推荐

ES6中 Promise的使用场景?(es6promise用法例子)

一、介绍Promise,译为承诺,是异步编程的一种解决方案,比传统的解决方案(回调函数)更加合理和更加强大在以往我们如果处理多层异步操作,我们往往会像下面那样编写我们的代码doSomething(f...

JavaScript 对 Promise 并发的处理方法

Promise对象代表一个未来的值,它有三种状态:pending待定,这是Promise的初始状态,它可能成功,也可能失败,前途未卜fulfilled已完成,这是一种成功的状态,此时可以获取...

Promise的九大方法(promise的实例方法)

1、promise.resolv静态方法Promise.resolve(value)可以认为是newPromise方法的语法糖,比如Promise.resolve(42)可以认为是以下代码的语...

360前端一面~面试题解析(360前端开发面试题)

1.组件库按需加载怎么做的,具体打包配了什么-按需加载实现:借助打包工具(如Webpack的require.context或ES模块动态导入),在使用组件时才引入对应的代码。例如在V...

前端面试-Promise 的 finally 怎么实现的?如何在工作中使用?

Promise的finally方法是一个非常有用的工具,它无论Promise是成功(fulfilled)还是失败(rejected)都会执行,且不改变Promise的最终结果。它的实现原...

最简单手写Promise,30行代码理解Promise核心原理和发布订阅模式

看了全网手写Promise的,大部分对于新手还是比较难理解的,其中几个比较难的点:状态还未改变时通过发布订阅模式去收集事件实例化的时候通过调用构造函数里传出来的方法去修改类里面的状态,这个叫Re...

前端分享-Promise可以中途取消啦(promise可以取消吗)

传统Promise就像一台需要手动组装的设备,每次使用都要重新接线。而Promise.withResolvers的出现,相当于给开发者发了一个智能遥控器,可以随时随地控制异步操作。它解决了三大...

手写 Promise(手写输入法 中文)

前言都2020年了,Promise大家肯定都在用了,但是估计很多人对其原理还是一知半解,今天就让我们一起实现一个符合PromiseA+规范的Promise。附PromiseA+规范地址...

什么是 Promise.allSettled()!新手老手都要会?

Promise.allSettled()方法返回一个在所有给定的promise都已经fulfilled或rejected后的promise,并带有一个对象数组,每个对象表示对应的pr...

前端面试-关于Promise解析与高频面试题示范

Promise是啥,直接上图:Promise就是处理异步函数的API,它可以包裹一个异步函数,在异步函数完成时抛出完成状态,让代码结束远古时无限回掉的窘境。配合async/await语法糖,可...

宇宙厂:为什么前端离不开 Promise.withResolvers() ?

大家好,很高兴又见面了,我是"高级前端进阶",由我带着大家一起关注前端前沿、深入前端底层技术,大家一起进步,也欢迎大家关注、点赞、收藏、转发。1.为什么需要Promise.with...

Promise 新增了一个超实用的 API!

在JavaScript的世界里,Promise一直是处理异步操作的神器。而现在,随着ES2025的发布,Promise又迎来了一个超实用的新成员——Promise.try()!这个新方法简...

一次搞懂 Promise 异步处理(promise 异步顺序执行)

PromisePromise就像这个词的表面意识一样,表示一种承诺、许诺,会在后面给出一个结果,成功或者失败。现在已经成为了主流的异步编程的操作方式,写进了标准里面。状态Promise有且仅有...

Promise 核心机制详解(promise机制的实现原理)

一、Promise的核心状态机Promise本质上是一个状态机,其行为由内部状态严格管控。每个Promise实例在创建时处于Pending(等待)状态,此时异步操作尚未完成。当异步操作成功...

javascript——Promise(js实现promise)

1.PromiseES6开始支持,Promise对象用于一个异步操作的最终完成(包括成功和失败)及结果值的表示。简单说就是处理异步请求的。之所以叫Promise,就是我承诺,如果成功则怎么处理,失败怎...

取消回复欢迎 发表评论: