<< All versions

Skill v1.0.0

currentAutomated scan100/100
cas-bigdatalab/piflow/clean-email-mapper
──Details
PublishedOctober 21, 2026 at 05:29 PM
Content Hashsha256:539548e1eacf4352...
Git SHA5aff1f02c20e
──Files
Files (1 file, 2.8 KB)
SKILL.md2.8 KBactive
SKILL.md · 117 lines · 2.8 KB

version: "1.0.0" name: clean_email_mapper description: | 清理文本样本中的电子邮件。当用户提到清理邮件、删除邮箱、去除邮件地址、清理个人信息等需求时使用此skill。 即使用户没有明确说出"邮件",只要任务涉及从文本中删除或替换邮箱地址,就应该使用此skill。

name_zh: 清理文本样本中的电子邮件算子 input_params:

  • name: input_path

type: string required: true description: 输入JSON文件路径

  • name: output_path

type: string required: true description: 输出JSON文件路径

  • name: pattern

type: string required: false description: 正则表达式模式(默认使用邮箱正则)

  • name: repl

type: string required: false default: "" description: 替换字符串(默认为空,即删除)

output_params:

  • name: output_path

type: json_file description: 清理邮件后的JSON文件 tag: 数据转换 publisher: COMMUNITY


Clean Email Mapper

清理文本中的电子邮件地址。

本SKILL使用依赖data_juicer,请在调用前安装好python环境并安装data_juicer,你可用同以下指令进行安装:

pip install py-data-juicer

核心参数

参数类型必填默认值说明
input_pathstring是-输入JSON文件路径
output_pathstring是-输出JSON文件路径
patternstring否默认邮箱正则正则表达式模式
replstring否空字符串替换字符串(默认为删除)

使用方法

bash
python scripts/run_clean_email_mapper.py --input_path <input_path> --output_path <output_path> [--repl <replacement>]

实现原理

参照测试代码 test_clean_email_mapper.py 中的 _run_clean_email 函数:

python
# 1. 初始化算子
op = CleanEmailMapper() # 删除邮件
# 或
op = CleanEmailMapper(repl='<EMAIL>') # 替换为指定字符串
# 2. 将数据转为Dataset,使用 op.run(dataset) 处理
dataset = Dataset.from_list(samples)
result_dataset = op.run(dataset)

输入输出格式

输入格式 (JSON数组)

json
[
{"text": "请联系我:user@example.com"},
{"text": "邮箱是 abc@123.com,请回复"}
]

输出格式 (JSON数组)

json
[
{"text": "请联系我:"},
{"text": "邮箱是 ,请回复"}
]

示例

示例1:删除邮件地址(默认)

bash
python scripts/run_clean_email_mapper.py --input_path example_input.json --output_path output.json

示例2:替换为占位符

bash
python scripts/run_clean_email_mapper.py --input_path example_input.json --output_path output.json --repl "<EMAIL>"

注意事项

  • 默认行为是删除邮件地址
  • 可以指定 repl 参数来替换为其他字符串
  • 支持自定义正则表达式模式
All versions