2021年4月

备注:本文修订于2021年5月23日Kafka 2.8 新特征介绍kafka官方发布了最新版本:kafka 2.8,发布时间是:2021年4月19日。kafka 2.8 最大的特点是:移除了对z...

在正则表达式的基本语法中,有如下规定:. 匹配除换行符(\n、\r)之外的任何单个字符。要匹配包括 'n' 在内的任何字符,请使用像"(.|\n)"的模式。* 匹配前面的子表达式零次或多次。例如...

Flink SQL 背景Flink SQL 是 Flink 实时计算为简化计算模型,降低用户使用实时计算门槛而设计的一套符合标准 SQL 语义的开发语言。Flink SQL 是面向用户的 API...

在流处理应用中,数据是连续不断的,因此我们不可能等到所有数据都到了才开始处理。虽然Flink可以做到每来一个消息就处理一次,但是更多时候我们需要做一些聚合类的处理,例如:在过去的1分钟内有多少用...

XPath使用路径表达式来选取XML文档中的节点或节点集。1、常用的路径表达式下面列出了最有用的路径表达式: 路径 描述 nodename 选取此节点,以及其包括的所有子节点。 ...

最近几年陆陆续续带徒,培养目标是架构师。我个人觉得,计算机行业属于知识密集型的产业,不仅要掌握大量的知识,当做底子当做基础,还得会学习,有强大的学习能力,这样才能成为架构师。第一个问题是:如何积...

Flink和Spark对比Flink是标准的实时处理引擎,基于事件驱动。而Spark Streaming是微批(Micro-Batch)的模型。Flink的时间延迟是毫秒级别,而Spark则是秒...

UC Berkeley 全称是:University of California, Berkeley,加利福尼亚大学伯克利分校,简称伯克利。AMPLab是旗下的大数据实验室,AMP的缩写代表着"...

flink 水印作用:告知窗口,数据集合完毕,可以启动计算。由于消息可能是乱序的,所以flink操作符无法直接确认何时所有属于该时间窗口的消息全部流入此操作符,从而无法执行计算过程。这个问题可以...

flink水印触发窗口的机制水印(watermark)就是一个时间戳 ,Flink可以给数据流添加水印,可以理解为:收到一条消息后,额外给这个消息添加了一个时间字段,这就是添加水印。水印并不会影...

Flink水印基于事件时间。所谓事件时间,就是Flink DataStream中的数据元素自身带有的、在其实际发生时记录的时间戳,具有业务含义,并与系统时间独立。很显然,由于外部系统产生的数据往...

flink水印就是一个时间戳flink水印就是一个时间戳,它给每个消息添加一个允许一定延迟的时间戳。窗口可以继续计算一定时间范围内延迟的消息,添加水印后,窗口会等 n 秒,再执行计算。若超过 n...

在Flink中,watermark称为水位线或水印,是flink为流式数据每隔一段时间打上的一个标记。watermark 通过额外的时间戳来控制窗口激活的时间,主要是为了解决数据乱序到达的问题。...

Flink引入了事件时间(eventTime)这个重要概念,从而提升数据统计的准确性。但是,引入事件时间后在具体业务实现时存在一些问题必需要合理去解决,否则会造成非常严重的问题。事件时间存在什么...

Flink根据时间产生的位置不同,将时间区分为三种时间概念:事件时间、接入时间、处理时间。Event Time 事件时间Event Time指的是数据流中每个元素或者每个事件自带的时间属性,一般...

备注:本文来源于互联网,做了部分修订。在流处理中,时间是一个非常核心的概念,是整个系统的基石。我们经常会遇到这样的需求:给定一个时间窗口,比如一个小时,统计时间窗口内的数据指标。那如何界定哪些数...

算子是一个函数空间到函数空间上的映射O:X→X。广义的讲,对任何函数进行某一项操作都可以认为是一个算子,包括求幂次,开方都可以认为是一个算子。本质上来说,算子就是映射,就是变换。备注:这里提到了...

前言如今,北侠大数据联盟APP已经进化到3.0版本了,欢迎大家的关注。V1.0版本的口号是:每天5分钟学习数据结构,sql,分布式,大数据。V2.0版本的口号是:从纷扰中抽身,让内心获得安宁。V...

1、path_provider插件的官方讲解https://pub.flutter-io.cn/packages/path_provider2、path_provider插件的安装首先,添加依赖...