检索分析服务Elasticsearch版：使用Logstash管道配置调试功能

当Logstash管道配置出现错误时，可能导致输出数据结果不符合预期，需要反复去目标端确认数据格式，再返回控制台修改配置，这样会耗费大量的时间和人力。对于这种情况，您可以通过阿里云Logstash提供的管道配置调试功能，在管道配置完成后，直接在控制台上查看管道配置的输出结果，降低调试成本。本文介绍具体的实现方法。

1. 登录阿里云Elasticsearch控制台。
2. 在左侧导航栏，单击Logstash实例。
3. 在顶部菜单栏处，选择地域，然后在实例列表中单击目标实例ID。
4. 在左侧导航栏，单击管道管理。
5. 单击创建管道。
6. 配置并启动管道。
   1. 在Config配置中，填写管道ID和Config配置。
      

      参数	说明
      管道ID	自定义输入。输入后，管道ID会自动映射到file_extend的path路径下。
      Config配置	Config配置由三部分组成： input：指定待读取的数据源，支持Logstash自带的input plugins（除过file插件）。 filter：进一步加工处理数据源采集到的数据，支持丰富的Filter plugins。 output：将过滤后的数据发送到特定的目的端。阿里云Logstash不仅支持开源的 Logstash output plugins，还可通过配置特有的file_extend插件，开启调试日志功能，即可在管道部署完成后直接查看输出结果，并进行验证与调试。

      config配置示例如下。

      input {
           elasticsearch {
             hosts => "http://es-cn-0pp1jxv000****.elasticsearch.aliyuncs.com:9200"
             user  => "elastic"
             index => "twitter"
             password => "<your_password>"
             docinfo => true
             schedule => "* * * * *"
           }
      
      }
      filter {
      
      }
      output {
          elasticsearch {
          hosts => ["http://es-cn-000000000i****.elasticsearch.aliyuncs.com:9200"]
          user => "elastic"
          password => "<your_password>"
          index => "%{[@metadata][_index]}"
          document_id => "%{[@metadata][_id]}"
      
        }
         file_extend {
           path => "/ssd/1/ls-cn-v0h1kzca****/logstash/logs/debug/test"
         }
      
      }

      注意

      • output中的file_extend配置默认为注释状态，如果需要使用调试功能，请先删除注释。
      • file_extend中的path参数默认为系统指定路径，请勿修改。您也可以单击开启配置调试获取path路径。
      • path中的{pipelineid}将自动映射为管道ID，请勿修改为其他名称，否则无法获取调试日志。
   2. 单击下一步，配置管道参数。
      管道配置参数的详细信息，请参见通过配置文件管理管道。
   3. 保存并部署管道。
      • 保存：将管道信息保存在Logstash里并触发实例变更，配置不会生效。保存后，系统会返回管道管理页面。可在管道列表区域，单击操作列下的立即部署，触发实例重启，使配置生效。
      • 保存并部署：保存并且部署后，会触发实例重启，使配置生效。
   4. 在创建成功提示框中，单击确认。
7. 查看调试日志。
   1. 等待实例重启完成后，在管道列表中，单击目标管道右侧操作列下的查看调试日志。
   2. 在日志查询页面的调试日志页签中，获取管道处理后的输出数据。
      对于多个管道，您可在搜索框中输入pipelineId: <管道ID>过滤对应的日志。