【摘要】:为了保障数据传输的可靠性,Flume提供了三种级别的保障机制供用户配置。1)end-to-end:接收数据的agent以预写的方式将event写入磁盘上,当数据成功到达预定的目的地后,才会删除该条数据。Flume采用了agent、collector和storage三层架构模式,其每一层均可以水平扩展。用户可以根据自身问题需求添加agent、collector和storage。2)多master情况,Flume利用ZooKeeper和gossip,保证动态配置数据的一致性。3)Flume提供了web和shell script command两种形式对数据流进行管理。
(1)高可靠性。
为了保障数据传输的可靠性,Flume提供了三种级别的保障机制供用户配置。
1)end-to-end:接收数据的agent以预写的方式将event写入磁盘上,当数据成功到达预定的目的地后,才会删除该条数据。
2)Store on failure:只有在接收方的agent发生故障时,发送方的agent才将event数据写到本地,待接收方agent恢复正常时,继续发送。
3)Best effort:event数据不写入磁盘,数据直接由发送方传递给接收方,没有确认过程。
(2)可扩展性。(www.xing528.com)
Flume采用了agent、collector和storage三层架构模式,其每一层均可以水平扩展。用户可以根据自身问题需求添加agent、collector和storage。
(3)可管理性。
1)master统一管理所有的agent和colletor,用户可以在master上查看、管理各个数据源和数据流执行情况。
2)多master情况,Flume利用ZooKeeper和gossip,保证动态配置数据的一致性。
3)Flume提供了web和shell script command两种形式对数据流进行管理。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。