正常采集过程中不定时发生日志重采

[apothecary-ap]

在集群环境使用deamonset启动ilogtail,日志量相同，采集配置相同的集群中，发现单独一台ilogtail容器内存比其它内存高，日志采集重复
正常采集机器ilogtail只使用了100-300mb的内存，异常这台内存打满，一开始分配内存1g打满，修改分配2g还是打满
cpu无异常cpu使用都是0.3c-0.5c

ilogtial配置了多个采集配置，ilogtail_config.json为通用配置，以下只列了发生重采的采集配置
使用的ilogtail的版本是1.3.1

ilogtail_config.json

{
    "cpu_usage_limit": 1,
    "mem_usage_limit": 2048,
    "polling_ignore_file_modify_timeout": 7200,
    "polling_file_first_watch_timeout": 600,
    "check_point_dump_interval": 5
}

ilogtail采集配置

enable: true
inputs:
- Type: file_log
  LogPath: /logs/job-manager/serviceLog/
  FilePattern: '*.opsMonitorLog.*.log'
  EnableLogPositionMeta: true
processors:
- Type: processor_add_fields
  Fields:
    logtype: generallog
    domain: aiops
    servicename: aiops-demo
    agenthost: localhost
    ilogtail: ilogtail
    env: normal
flushers:
- Type: flusher_kafka_v2
  Compression: gzip
  Brokers:
  - XX.XX.XXX.XXX:XXXX
  Convert:
    ProtocolFieldsRename:
      contents: fields
  Topic: demo

重采发现的日志生成方式：

每分钟打印20条数据，按小时进行文件切分
文件命名方式：xxx.日期-小时.log（jobmanager.opsMonitorLog.2023-12-19-06.log）

以下为部分debug日志：

发生重采的时候都有unregister
ilogtail.LOG

[linrunqi08]

内存如果满了，会导致logtail进程被oom kill，内存中的checkpoint无法记录下来，从而导致重复

[linrunqi08]

这台机器的数据量如果很大的话，会引起内存升高的

[apothecary-ap]

有三台机器的日志量和这台一样达到了一天1亿-1.5亿条日志，但是三台机器的内存只用到了300mb不到，都是一样的配置

[linrunqi08]

这个不太合理，如果都是一样的话，不太可能就这台内存升高。可以用工具看一下mem profile，看看内存中什么比较高

[apothecary-ap]

多谢大佬的回复，这个内存排查mem profile有文档推荐参照吗，不了解怎么去排查，主要是做java开发的，只了解基础的c++和golang语法

[7y-9]

ilogtail 插件中提供dump mem和cpu等接口，可以看下这个plugin_main/plugin_http.go