博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
滚动窗口
阅读量:5942 次
发布时间:2019-06-19

本文共 1799 字,大约阅读时间需要 5 分钟。

滚动窗口(TUMBLE)将每个元素分配到一个指定大小的窗口中。通常滚动窗口有一个固定的大小,并且不会出现重叠。

例如:如果指定了一个5分钟大小的滚动窗口,无限流的数据会根据时间划分成[0:00 - 0:05), [0:05, 0:10), [0:10, 0:15),… 等窗口。如下图,展示了一个大小划分为30秒的滚动窗口。

语法

TUMBLE函数用在GROUP BY子句中,用来定义滚动窗口。

 
  1. TUMBLE(<time-attr>, <size-interval>)
  2. <size-interval>: INTERVAL 'string' timeUnit

<time-attr> 参数必须是流中的一个合法的时间属性字段,指定 processing time 或是 event time。

您可以参考 章节,了解如何定义时间属性和watermark。

标识函数

使用标识函数选出窗口的起始时间或者结束时间,窗口的时间属性用于下级window的聚合。

窗口标识函数 返回类型 描述
TUMBLE_START(time-attr, size-interval) Timestamp 返回窗口的起始时间(包含边界)。如[00:10, 00:15) 的窗口,返回 00:10 。
TUMBLE_END(time-attr, size-interval) Timestamp 返回窗口的结束时间(包含边界)。如[00:00, 00:15] 的窗口,返回 00:15。
TUMBLE_ROWTIME(time-attr, size-interval) Timestamp(rowtime-attr) 返回窗口的结束时间(不包含边界)。如 [00:00, 00:15] 的窗口,返回 00:14:59.999 。返回值是一个 rowtime attribute,即可以基于该字段做时间类型的操作,如级联窗口。

案例

统计每个用户每分钟的点击次数。

 
  1. CREATE TABLE user_clicks(
  2. username varchar,
  3. click_url varchar,
  4. ts timeStamp,
  5. WATERMARK wk FOR ts as withOffset(ts, 2000) -- rowtime定义watermark
  6. ) with (
  7. type='datahub',
  8. ...
  9. );
  10. CREATE TABLE tumble_output(
  11. window_start TIMESTAMP,
  12. window_end TIMESTAMP,
  13. username VARCHAR,
  14. clicks BIGINT
  15. ) with (
  16. type='RDS'
  17. );
  18. INSERT INTO tumble_output
  19. SELECT
  20. TUMBLE_START(ts, INTERVAL '1' MINUTE),
  21. TUMBLE_END(ts, INTERVAL '1' MINUTE),
  22. username,
  23. COUNT(click_url)
  24. FROM window_input
  25. GROUP BY TUMBLE(ts, INTERVAL '1' MINUTE), username

测试数据

username (VARCHAR) click_url (VARCHAR) ts (TIMESTAMP)
Jark 2017-10-10 10:00:00.0
Jark 2017-10-10 10:00:10.0
Jark 2017-10-10 10:00:49.0
Jark 2017-10-10 10:01:05.0
Jark 2017-10-10 10:01:58.0
Timo 2017-10-10 10:02:10.0

测试结果

window_start (TIMESTAMP) window_end (TIMESTAMP) username (VARCHAR) clicks (BIGINT)
2017-10-10 10:00:00.0 2017-10-10 10:01:00.0 Jark 3
2017-10-10 10:01:00.0 2017-10-10 10:02:00.0 Jark 2
2017-10-10 10:02:00.0 2017-10-10 10:03:00.0 Timo 1
本文转自实时计算——

转载地址:http://vpqtx.baihongyu.com/

你可能感兴趣的文章
jquery 怎么触发select的change事件
查看>>
angularjs指令(二)
查看>>
(原創) 如何建立一个thread? (OS) (Linux) (C/C++) (C)
查看>>
<气场>读书笔记
查看>>
领域驱动设计,构建简单的新闻系统,20分钟够吗?
查看>>
web安全问题分析与防御总结
查看>>
React 组件通信之 React context
查看>>
ZooKeeper 可视化监控 zkui
查看>>
Linux下通过配置Crontab实现进程守护
查看>>
ios 打包上传Appstore 时报的错误 90101 90149
查看>>
Oracle推出轻量级Java微服务框架Helidon
查看>>
密码概述
查看>>
autoconf,automake,libtool
查看>>
jQuery的技巧01
查看>>
基于泛型实现的ibatis通用分页查询
查看>>
gopacket 使用
查看>>
AlertDialog对话框
查看>>
我的友情链接
查看>>
linux安全---cacti+ntop监控
查看>>
鸟哥的linux私房菜-shell简单学习-1
查看>>