sink组

jfewjypa  于 2021-06-04  发布在  Flume
关注(0)|答案(1)|浏览(369)

我是apache flume的新手,我已经用sink group-load balance手动配置了单层代理,我想知道如何测试sink group负载平衡?有什么主意吗

ttygqcqt

ttygqcqt1#

您可以定义两个不同的接收器,并在接收器组中提及它们,如下所示,

agent1.sinkgroups = g1
agent1.sinkgroups.g1.sinks = HDFS1 HDFS2
agent1.sinkgroups.g1.processor.type = load_balance
agent1.sinkgroups.g1.processor.backoff = true
agent1.sinkgroups.g1.processor.selector = round_robin

这两个都是hdfs接收器。
您可以提到进程选择器(round_robin[default]、random或custom selector),它定义了如何在两个接收器之间平衡负载。
运行代理时,可以看到两组不同的数据存储在两个各自的hdfs路径(接收器)中。
其他两个可选参数是backoff和selector.maxtimeout
有关Flume1.6.0用户指南的更多信息,请参阅此链接

相关问题