clickhouse无法从Kafka获得所有数据

olhwl3o2  于 2021-06-07  发布在  Kafka
关注(0)|答案(1)|浏览(765)

我试图把一些实时指标从Kafka到clickhouse,我的查询如下所示

CREATE TABLE queue2 (timestamp String, namespace String, data Float, unit String, plugin_running_on String, version UInt64, last_advertised_time String) ENGINE = Kafka('10.224.54.99:9092', 'outtopic1', 'group2', 'JSONEachRow');

当它从Kafka那里得到大约150行的数据时,它突然停了下来,显示出

156 rows in set. Elapsed: 11.245 sec.

但Kafka的数据仍将存在,需要推送到clickhouse……可能有什么问题?有人能帮我吗

cqoc49vn

cqoc49vn1#

您是否按照文档中的建议为kafka表使用物化视图?
如果您使用物化视图,那么来自Kafka的所有消息都将插入到视图中。所以在这种情况下,您应该从视图中选择,而不是从kafka表中选择。
如果不使用物化视图,则只能从kafka表中查询一次新消息。当您再次查询时,查询将不会再次返回相同的消息,因为它已经从kafka使用过一次。
此外,您还可以检查clickhouse日志(/var/log/clickhouse server/clickhouse server.log)中的一些错误。
另外,请确保没有任何其他Kafka消费者(或clickhouse kafka table)具有相同的组主题,因为在Kafka消费者组中,消息只获取一次。

相关问题