基于filebeat+kafka+ELK的大数据日志收集系统

日志收集系统简介

日志收集是大数据的基石。

许多公司的业务平台每天都会产生大量的日志数据。收集业务日志数据,供离线和在线的分析系统使用,正是日志收集系统的要做的事情。高可用性,高可靠性和可扩展性是日志收集系统所具有的基本特征。

常用的日志收集系统对比

Flume Logstash Filebeat
内存
cpu
背压敏感协议
插件 需要额外支持
功能 支持多种输入、多种输出 支持多种输入、多种输出,支持数据转换,支持实时解析 支持多种输入、多种输出
轻重 重量级 重量级 轻量级
过滤能力 可以支持分区、拦截器 过滤能力强大 过滤能力弱
稳定性 一台服务器支持多个进程,挂掉后需要手动启动 一台服务器只能有一个进程,挂掉后需要手动启动 非常稳定<
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值