智能感知 · 组件

定时新闻与订阅源采集去重

可用 合成数据 T3 · 信号流与告警

功能

轮询 RSS/API 订阅源,保留抓取状态,并在四个来源变体间对文章去重。来源注册表、客户分类体系以及各适配器的行为需要另行配置。

核心模式

定时拉取信息源+去重和抓取状态

输入
RSS/RSSHub/JSON feeds
输出
Normalized articles, source provenance and fetch job records

关键参数

名称类型默认值取值
sourcesarray[]—
poll_interval_secondsinteger90030–86400
batch_sizeinteger501–1000
parallelisminteger41–64
dedupe_strategystringhybridcanonical_url · external_id · title_content · hybrid

成熟度与限制

可用

已建立来源注册表、适配器契约、调度器及抓取和管理接口。此等级依据静态源码检查,不代表运行测试、真实服务接入或生产部署已通过验证。

未发现根目录复用许可证;出版方文字与图片须取得复用权,外部模型及抓取服务须配置。各变体的依赖、限制及较低成熟度分别记录;它们是备选实现,并非一个已部署系统。

行业标签

  • 媒体内容源数据有行业依据

    在编辑资料、节目和读者服务相关工作中,定时拉取信息源,并去重和抓取状态。

  • 能源可迁移应用

    在设备供应商和监管动态简报中,定时拉取信息源,并去重和抓取状态。

技能包

契约脚手架与确定性模拟实现

下载 · 13KB

SHA-256 5d1958a1f05a0e2fc1b04ef1e81beb4a7ca32d90a7475590f7f6870fd069fb8c

相关组件

技能包下载

您将下载

获取技能包

留下联系方式即可立即下载。每一份申请我们都会认真查看,只就这项能力与您联系。

联系方式

下载链接也会同步发送到这个邮箱。

企业地址