Un travailleur de Logstash meurt sans raison

Question

En utilisant logstash 2.3.4-1 sur centos 7 avec le plugin kafka-input, j'obtiens parfois les résultats suivants

{:timestamp=>"2016-09-07T13:41:46. 437000+0000", :message=>#0, :events_consumed=>822, :worker_count=>1, :inflight_count=>0, :worker_states=>[{:status=>"dead", :alive=>false, :index=>0, :inflight_count=>0}], :output_info=>[{:type=>"http", : config=>{"http_method"=>"post", "url"=>"${APP_URL}/", "headers"=>["AUTHORIZATION", "Basic ${CREDS}"], "ALLOW_ENV"=>true}, :is_multi_worker=>false, :events_received=>0, :workers=>"", headers=>{. . }, codec=>"UTF-8">, workers=>1, request_timeout=>60, socket_timeout=>10, connect_timeout=>10, follow_redirects=>true, pool_max=>50, pool_max_per_route=>25, keepalive=>true, automatic_retries=>1, retry_non_idempotent=>false, validate_after_inactivity=>200, ssl_certificate_validation=>true, keystore_type=>"JKS", truststore_type=>"JKS", cookies=>true, verify_ssl=>true, format=>"json">]>, : busy_workers=>1}, {:type=>"stdout", :config=>{"ALLOW_ENV"=>true}, :is_multi_worker=>false, :events_received=>0, :workers=>" \n ">, workers=>1>]>, :busy_workers=>0}], :thread_info=>[], :stalling_threads_info=>[]}>, :level=>:warn}

voici la configuration

        input {
      kafka {
        bootstrap_servers => "${KAFKA_ADDRESS}"
        topics => ["${LOGSTASH_KAFKA_TOPIC}"]
      }
    }

    filter {
      ruby {
        code =>
      "require 'json'
       require 'base64'

       def good_event?(event_metadata)
         event_metadata['key1']['key2'].start_with?('good')
       rescue
         true 
       end

       def has_url?(event_data)
         event_data['line'] && event_data['line'].any? { |i| i['url'] && !i['url'].blank? }
       rescue
         false
       end

       event_payload = JSON.parse(event.to_hash['message'])['payload']

       event.cancel unless good_event?(event_payload['event_metadata'])
       event.cancel unless has_url?(event_payload['event_data'])
    "
  }
    }

    output {
      http {
          http_method => 'post'
          url => '${APP_URL}/'
          headers => ["AUTHORIZATION", "Basic ${CREDS}"]
      }

      stdout { }
    }

Ce qui est étrange, car il est écrit dans logstash.log et non dans logstash.err.

Que signifie cette erreur et comment puis-je l'éviter ? (seul le redémarrage de logstash la résout, jusqu'à la prochaine fois qu'elle se produira)

Answer 1

Selon ce problème github votre code ruby pourrait être à l'origine du problème. Fondamentalement, toute exception ruby entraînera la mort du travailleur de filtre. Sans voir votre code ruby, il est impossible de déboguer davantage, mais vous pourriez essayer d'envelopper votre code ruby dans un gestionnaire d'exception et d'enregistrer l'exception quelque part (au moins jusqu'à ce que logstash soit mis à jour pour l'enregistrer).