首页 理论教育 Flume的特点及应用场景分析

Flume的特点及应用场景分析

时间:2023-06-26 理论教育 版权反馈
【摘要】:为了保障数据传输的可靠性,Flume提供了三种级别的保障机制供用户配置。1)end-to-end:接收数据的agent以预写的方式将event写入磁盘上,当数据成功到达预定的目的地后,才会删除该条数据。Flume采用了agent、collector和storage三层架构模式,其每一层均可以水平扩展。用户可以根据自身问题需求添加agent、collector和storage。2)多master情况,Flume利用ZooKeeper和gossip,保证动态配置数据的一致性。3)Flume提供了web和shell script command两种形式对数据流进行管理。

Flume的特点及应用场景分析

(1)高可靠性

为了保障数据传输的可靠性,Flume提供了三种级别的保障机制供用户配置。

1)end-to-end:接收数据的agent以预写的方式将event写入磁盘上,当数据成功到达预定的目的地后,才会删除该条数据。

2)Store on failure:只有在接收方的agent发生故障时,发送方的agent才将event数据写到本地,待接收方agent恢复正常时,继续发送。

3)Best effort:event数据不写入磁盘,数据直接由发送方传递给接收方,没有确认过程。

(2)可扩展性。(www.xing528.com)

Flume采用了agent、collector和storage三层架构模式,其每一层均可以水平扩展。用户可以根据自身问题需求添加agent、collector和storage。

(3)可管理性。

1)master统一管理所有的agent和colletor,用户可以在master上查看、管理各个数据源和数据流执行情况。

2)多master情况,Flume利用ZooKeeper和gossip,保证动态配置数据的一致性。

3)Flume提供了web和shell script command两种形式对数据流进行管理。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈