Skip to content

KafkaRestLog Parser

Sun Jianbo edited this page Mar 5, 2018 · 2 revisions

KafkaRestLog Parser将Kafka Rest日志文件的每一行解析为一条结构化的日志.

典型配置如下:

    "parser":{
        "name":"pandora_kafkarest_log",
        "type":"kafkarest",
        "labels":"machine nb123, platform kirk, team pandora"
    },
  • labels 填一些额外的标签信息,同样逗号分隔,每个部分由空格隔开,左边是标签的key,右边是value。
  • KafkaRestLog 解析出的字段名是固定的,包括如下字段及标签,可以在sender中选择需要发送的字段和标签。
    • source_ip: 源IP
    • method: 请求的方法,诸如POST、GET、PUT、DELETE等
    • topic: 请求涉及的kafka topic
    • code: httpcode
    • resp_len: 请求长度
    • duration: 请求时长
    • log_time: 日志产生的时间
    • error: 表示是一条error日志,也只有error日志才解析出该字段
    • warn: 表示是一条warn日志,也只有warn日志才解析出该字段
  • disable_record_errdata 默认为false,解析失败的数据会默认出现在"pandora_stash"字段,该选项可以禁止记录解析失败的数据。
Clone this wiki locally