目录
日志收集系统简介
日志收集是大数据的基石。
许多公司的业务平台每天都会产生大量的日志数据。收集业务日志数据,供离线和在线的分析系统使用,正是日志收集系统的要做的事情。高可用性,高可靠性和可扩展性是日志收集系统所具有的基本特征。
常用的日志收集系统对比
Flume | Logstash | Filebeat | |
---|---|---|---|
内存 | 大 | 大 | 小 |
cpu | 小 | 大 | 小 |
背压敏感协议 | 否 | 否 | 是 |
插件 | 需要额外支持 | 多 | 多 |
功能 | 支持多种输入、多种输出 | 支持多种输入、多种输出,支持数据转换,支持实时解析 | 支持多种输入、多种输出 |
轻重 | 重量级 | 重量级 | 轻量级 |
过滤能力 | 可以支持分区、拦截器 | 过滤能力强大 | 过滤能力弱 |
稳定性 | 一台服务器支持多个进程,挂掉后需要手动启动 | 一台服务器只能有一个进程,挂掉后需要手动启动 | 非常稳定< |