version: "1.0.0" name: content_parser description: | 内容解析预处理工具。读取采集后的 JSONL、JSON 或 TXT 文本记录，执行轻量内容解析，输出带标题、段落结构和内容类型的统一解析记录文件。 当用户提到接入内容解析、采集后预处理、提取标题和段落、识别 plain/markdown/html 内容结构等需求时使用此 skill。 即使用户没有明确说出"内容解析"，只要任务涉及把已采集文本内容解析成统一结构，就应该使用此 skill。 不负责文件采集、表格抽取、内容清洗、质量校验、过滤筛选或格式转换。 name_zh: 接入内容解析预处理算子 input_params:

• name: input

type: string required: true description: 输入文件路径，支持 jsonl/json/txt

• name: output

type: string required: true description: 输出文件路径

• name: parse_mode

type: string required: false default: auto description: 解析模式，支持 auto/plain/markdown/html

• name: extract_title

type: string required: false default: "True" description: 是否提取标题

• name: extract_paragraphs

type: string required: false default: "True" description: 是否提取段落列表

• name: output_format

type: string required: false default: jsonl description: 输出格式，支持 jsonl/json/auto output_params:

• name: output

type: jsonl_file description: 解析后的结构化内容记录文件 tag: 数据筛选 publisher: COMMUNITY

Content Parser 内容解析预处理 Skill

功能概述

本 skill 用于读取采集后的文本记录，对 text 字段做轻量内容解析，识别 plain、markdown、html 内容类型，并输出标题、段落结构、字符数、词数等解析结果。

触发条件

当用户请求以下任务时，应使用此 skill：

• 接入内容解析
• 采集后预处理
• 提取文本标题和段落结构
• 识别 plain、markdown、html 内容类型
• 将已采集文本内容转为统一解析记录

不适用于文件采集、表格抽取、内容清洗、质量校验、过滤筛选或格式转换；这些任务需要使用对应的采集、清洗、校验、过滤或转换 skill。

核心参数说明

必需参数

可选参数

输入文件格式

输入可以是 JSONL、JSON 或 TXT 文件。JSONL/JSON 中每条记录应包含 text 字段；TXT 文件会整体作为一条文本记录处理。

{"text": "# Research Note\n\nFirst paragraph..."}
{"text": "<html><title>Report</title><p>HTML paragraph.</p></html>"}

使用方法

自动识别内容类型并输出 JSONL

python scripts/run_content_parser.py \
  --input ./content_records.jsonl \
  --output ./content_parser_output.jsonl \
  --parse_mode auto \
  --extract_title true \
  --extract_paragraphs true \
  --output_format jsonl

按纯文本模式解析 TXT 文件

python scripts/run_content_parser.py \
  --input ./note.txt \
  --output ./content_parser_output.json \
  --parse_mode plain \
  --output_format json

处理示例

输出示例

{"_parsed": {"raw_text": "# Research Note...", "content_type": "markdown", "title": "Research Note", "paragraphs": ["Research Note", "First paragraph..."], "paragraph_count": 2, "char_count": 42, "word_count": 5, "parsed_at": "2026-06-12 14:00:00"}, "text": "# Research Note..."}

环境要求

使用仓库内 Python 环境运行；Windows bash 下建议加 PYTHONIOENCODING=utf-8 避免中文控制台编码问题。HTML 解析优先使用 beautifulsoup4，缺少依赖时脚本会退回正则清理。

注意事项

1. parse_mode=auto 会根据内容特征识别 plain、markdown 或 html。
2. 输入 JSONL/JSON 记录中缺少 text 或 text 为空时，输出 _parsed.error。
3. 本 skill 只做轻量解析，不做清洗、过滤或质量判定。