帮助文档 Logo
平台使用
阿里云
百度云
移动云
智算服务
教育生态
登录 →
帮助文档 Logo
平台使用 阿里云 百度云 移动云 智算服务 教育生态
登录
  1. 首页
  2. 阿里云
  3. 日志服务
  4. 操作指南
  5. 数据加工
  6. 数据加工(旧版)
  7. 数据加工(旧版)常见问题
  8. 目标Logstore有多余数据怎么处理?

目标Logstore有多余数据怎么处理?

  • 数据加工(旧版)常见问题
  • 发布于 2025-04-22
  • 0 次阅读
文档编辑
文档编辑

您将数据加工结果分发至目标Logstore后,如果目标Logstore中有多余数据,可参见本文解决。

名为website_log的Logstore中有5000条数据,其中SourceIP为192.0.2.54的数据有1000条,SourceIP为192.0.2.28的数据有1000条,SourceIP为192.0.2.136的数据有1000条,SourceIP为其他值的数据有2000条。现对这些数据进行加工,分发到不同的目标Logstore中。

  • 加工需求

    • 将SourceIP为192.0.2.54的数据分发至名为54_log的Logstore中。

    • 将SourceIP为192.0.2.28的数据分发至名为28_log的Logstore中。

    • 将SourceIP为192.0.2.136的数据分发至名为136_log的Logstore中。

  • 预期结果

    • 名为54_log的Logstore中有1000条数据,其中SourceIP为192.0.2.54。

    • 名为28_log的Logstore中有1000条数据,其中SourceIP为192.0.2.28。

    • 名为136_log的Logstore中有1000条数据,其中SourceIP为192.0.2.136。

  • 加工语句

    e_if(e_search("SourceIP==192.0.2.54"),    
      e_output(name="54-target",
                 project="sls-test",
                 logstore="54_log"))
    e_if(e_search("SourceIP==192.0.2.28"),
        e_output(name="28-target",
                 project="sls-test",
                 logstore="28_log"))
    e_if(e_search("SourceIP==192.0.2.136"),
        e_output(name="136-target",
                 project="sls-test",
                 logstore="136_log"))
  • 存储目标存储目标

  • 加工结果

    • (不符合预期)名为54_log的Logstore中有3000条数据,除SourceIP为192.0.2.54的数据外,还有SourceIP为其他值的数据。

    • (符合预期)名为28_log的Logstore中有1000条数据,其中SourceIP为192.0.2.28。

    • (符合预期)名为136_log的Logstore中有1000条数据,其中SourceIP为192.0.2.136。

  • 原因分析

    日志服务在分发数据加工结果时,符合e_output函数加工规则的数据被分别分发到对应的目标Logstore中。其他在加工过程中通过DSL(加工语句)处理且未被丢弃的数据将被分发到存储目标1的Logstore中(本案例中为54_log Logstore)。日志服务以存储目标1为默认存储目标。

  • 解决方法

    在加工语句中加上e_drop()语句,丢弃不符合加工规则的数据。

    e_if(e_search("SourceIP==192.0.2.54"),    
      e_output(name="54-target",
                 project="sls-test",
                 logstore="54_log"))
    e_if(e_search("SourceIP==192.0.2.28"),
        e_output(name="28-target",
                 project="sls-test",
                 logstore="28_log"))
    e_if(e_search("SourceIP==192.0.2.136"),
        e_output(name="136-target",
                 project="sls-test",
                 logstore="136_log"))
    e_drop()
相关文章

加工引擎启动错误 2025-04-22 10:53

本文档为您介绍加工引擎启动错误的原因以及排查处理方法。 数据加工任务的第一个环节便是启动加工引擎。该环节产生错误主要是由于在启动加工引擎过程时,检测到您编写的SLS DSL规则存在错误,导致加工引擎内部的安全审核不通过。

加工规则错误 2025-04-22 10:53

本文档为您介绍数据加工规则错误的原因以及排查处理方法。 读取源Logstore数据成功后,加工引擎开始对源Logstore的日志事件进行加工。

源Logstore读取错误 2025-04-22 10:53

本文介绍数据加工服务读取源Logstore错误的原因以及排查处理方法。 加工引擎启动成功后,开始读取源Logstore的数据。数据加工引擎对源Logstore采用流式读取,在加工过程中会持续不断的读取源Logstore中的数据。

资源加载错误 2025-04-22 10:53

本文介绍在数据加工规则中加载资源数据错误的原因及排查处理的方法。 错误处理机制 资源加载错误的处理机制请参见res_log_

目标Logstore输出错误的原因和排查方法 2025-04-22 10:53

本文档为您介绍数据加工服务进行数据加工后,将加工结果写入目标Logstore产生错误的常见原因和排查处理方法。 工作原理 日志事件被加工完之后,会被输出到预先配置好的目标Logstore中。LOG DSL引擎每次读取一个批次的源日志(从1条到近万条不等),数据加工后,并不是加工一条日志就输出一条,而

获取Logstore数据(维表)错误 2025-04-22 10:53

如果加工规则中涉及其他Logstore资源的加载,则有可能会产生资源的加载或刷新错误。本文档主要介绍从其他Logstore获取数据的常见错误以及排查处理方法。 在成功读取源Logstore数据后,加工引擎开始对源Logstore的日志事件进行加工。如果加工规则中涉及OSS、RDS、Logstore等

目录
Copyright © 2025 your company All Rights Reserved. Powered by 博智数字服务平台.
闽ICP备08105208号-1