一种用于FDC的海量数据清洗方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种用于FDC的海量数据清洗方法
申请号:CN202511011865
申请日期:2025-07-22
公开号:CN120812089A
公开日期:2025-10-17
类型:发明专利
摘要
本发明涉及工业物联网数据处理技术领域,公开了一种用于FDC的海量数据清洗方法,包括以下步骤:S1、通过EAP程序利用SECS协议采集半导体制造设备的传感器数据,封装为JSON格式后上报至SpringBoot后端;S2、根据场景选择数据传输路径:高吞吐场景下将数据发送至RabbitMQ消息队列,低延迟场景下直接发送至DolphinDB流表;S3、对数据进行多维度异常检测与清洗。通过优化的MQ配置和并发存储机制,通过两种方式实现高性能数据处理,第一种方式满足芯片制造过程中海量的事实处理需求,第二种方式减少了中间环节,提高了数据处理效率,且实时性高,使得该方法的适配性提高。
技术关键词
海量数据清洗方法 孤立森林算法 布隆过滤器 海量数据清洗系统 工业物联网数据处理 滑动窗口 低延迟 高性能数据处理 场景 数据传输模块 异常数据 数据存储模块 数据采集模块 传输路径 数据同步 K近邻算法 刷新机制 半导体