返回教程列表
文本分析基础教程文本规范化文本清洗

中文文本规范化工具使用教程:繁简转换、标点统一、数字转正文、拼音转写

不同来源的中文文本,繁简体、标点符号、数字写法经常不一致。人工阅读时不太显眼,但做排版发布或者文本分析时会出问题——同一个词在简体和繁体里变成了两个词条,词频统计就散了。中文文本规范化帮你把这些不一致统一起来,处理方式是无损替换,一个字都不会丢。和文本清洗不同,规范化是"改写",清洗是"删减",建议先规范化再清洗。

作者:TATOOLS 研究团队|更新于 2026-09-27|3493 个字符|约 12 分钟读完
text-normalize
立即使用

规范化做的事情可以拆成四块。

  1. 繁简转换。基于专业词典做上下文判断,不是简单的一对一替换。比如"乾燥"会正确转成"干燥",不会变成"干躁"。支持 9 种模式,包括繁转简、简转繁、台湾繁体、港澳繁体等,也有自动检测模式——系统判断文本主体是繁是简,然后统一为目标体。碰到繁简混排的情况会给出警告,方便你抽查。
  2. 标点规范化。7 项独立规则,每项可以单独开关。包括全角数字和字母转半角、直引号转弯引号并校验配对、折叠多余空白、省略号和破折号统一写法。
  3. 数字转正文。把"3号线""2024年"这类数字+中文组合转成"三号线""二〇二四年"。系统会用大模型判断哪些组合是词、哪些该转,不是一刀切全转。
  4. 拼音转写。给中文字符标注拼音,支持声调符号、声调数字、无声调三种形式。开启按词切分后,基于分词结果标注,多音字的准确率会高不少。处理完会生成一份拼音 CSV,可以直接拿去排版或做语音合成。

报告页从上到下展示:规范化总览(整体统计加各模块说明)、标点子项修改分布条形图、每份文件的修改统计表、数字转正文记录表、原文和改后的并排对照。


适用文档

支持 TXT 和 CSV 两种格式。

  1. TXT 文件。按全文处理。编码建议用 UTF-8,乱码文件需要先转码。
  2. CSV 文件。自动识别文本列进行规范化,非文本列原样保留。

繁简转换对纯中文文本效果最好。中英文混排的文本,中文部分正常转换,英文不受影响。拼音转写也只覆盖中文字符,英文、数字和标点不参与标注。


适用情景

  1. 港台稿件出海。内容团队收到台湾或香港繁体稿件,需要统一成简体发布。用自动检测模式,系统判断主体为繁体后自动转简,两岸三地的用语差异基本能正确处理。
  2. 政策文件数字规范化。政策文件里"3号线""12号楼"这些数字+中文组合,如果直接做文本清洗,数字可能被当噪声删掉。先开数字转正文把它们变成中文写法,后续清洗就不会误删了。
  3. 教材拼音标注。出版社需要给语文教材整篇标拼音。选声调符号模式,开按词切分,系统自动处理大部分多音字,处理不了的会标复核警告供人工抽查。拼音 CSV 可以直接交付排版。
  4. 繁简混排语料预处理。从不同来源收集的文本繁简混用,直接做分词或词频统计,同一个概念会被拆成两个词条。先统一文字形态再分析,统计结果会准确很多。


使用步骤

第一步:上传文件。上传一个或多个 TXT 或 CSV 文件,系统逐文件独立处理。



第二步:查看报告。提交后系统自动处理,完成后跳转到报告页。从上到下:规范化总览、标点子项分布条形图、文件修改统计表、数字转正文记录表、原文和改后的并排对照。


第三步:下载结果。点击下载拿到规范化后的主文件和拼音 CSV。建议先抽查对照预览,确认没误改再用于后续发布或分析。

参数解析与对比示例

繁简转换有 2 个参数。

参数说明默认值
启用繁简转换开启或关闭开启
转换模式auto(自动检测)、t2s(繁→简)、s2t(简→繁)、s2tw/tw2s(台湾)、s2hk/hk2s(港澳)、s2twp/tw2sp(混合)auto

标点规范化有 7 项,每项独立开关。

参数说明默认值
全角数字→半角全角123转为半角123开启
全角字母→半角全角ABC转为半角ABC开启
直引号→弯引号ASCII 直引号按栈匹配转为中文弯引号开启
修正错配引号对已是中文引号的文本做栈式校验开启
折叠多余空白连续空格、全角空格、多余空行折叠开启
省略号统一...、⋯⋯等统一为 ……开启
破折号统一--、——等统一为 ——开启

其他参数有 4 个。

参数说明默认值
数字转正文大模型判断数字+中文组合是否为词,转为中文写法关闭
拼音转写开启或关闭拼音标注开启
声调形式声调符号(mā)、声调数字(ma1)、无声调(ma)声调符号
按词切分基于分词结果标注拼音,多音字准确率更高开启

三组典型配置供参考。

  1. 繁简统一。繁简转换设自动检测 + 全部标点规范化 + 拼音关闭。适合港台稿件出海,处理速度快。
  2. 拼音标注。繁简转换关闭 + 标点规范化 + 拼音转写(声调符号 + 按词切分)。适合教材拼音标注,输出规范化文本加拼音 CSV。
  3. 完整规范化。繁简转换设繁转简 + 全部标点规范化 + 数字转正文 + 拼音转写。适合政策文件或需要全面规范化的场景,处理时间会长一些。

案例分析

案例一:港台稿件出海统一。
背景:某内容团队收到 30 篇台湾繁体公众号稿件。
配置:繁简转换(自动检测)+ 全部标点规范化。
结果:系统识别主体为繁体并统一为简体。"軟體→软件""光碟→光盘""滑鼠→鼠标"等台湾用语正确转换,"乾燥→干燥"等多义字也处理对了。标点方面直引号转弯引号并校验配对,省略号和破折号统一。报告里繁简变更 1,247 处、标点修改 856 处、复核警告 23 处(都是繁简混排提示),编辑抽查警告项后即可发布。


案例二:政策文件数字规范化。
背景:某研究机构处理 50 份政策文件。
配置:数字转正文开启。
结果:系统提取所有"数字+中文"组合,用大模型判断哪些是词。"3号线→三号线""12号楼→十二号楼""2024年→二〇二四年"等共转换 342 处。报告展示数字转正文记录表,每处显示原文和转换后结果。这些文件后续做文本清洗时,已转为中文的数字不会被误删。



类似功能对比

中文文本规范化和文本清洗容易搞混,其实做的事情不一样。

对比维度中文文本规范化文本清洗
做什么统一文字形态,修正不规范写法删掉噪声,减少无关字符
怎么做繁简转换、标点规范化、数字转正文、拼音转写删除标点、停用词、HTML、emoji
对原文影响无损替换,一字不丢删除字符,原文缩减
典型场景繁体资料整理、拼音标注、发布前格式统一爬虫去噪、建模前预处理
输出规范文本 + 替换明细 + 拼音 CSV干净文本 + 删除统计

两者可以串联:先规范化统一文字形态,再清洗去噪声。繁简混排语料走这个流程比较合适。


01

在任务页面设置规范化规则

打开中文文本规范化页面。已有的中文文本规范化实例可以用来对照任务配置和报告结构。

TATOOLS 使用教程配图

中文文本规范化任务页面:繁简方向、七项标点规则、拼音标注和数字转正文分别设置

1

上传文档。 将需要统一写法的材料加入上传列表,保留原始文件作为对照。

2

设置繁简转换。 打开【繁简转换】,在【转换模式】中选择自动检测或明确的转换方向。需要统一到指定写法时,应直接选择对应方向。

3

选择标点规则。 打开【标点规范化】,按需要选择全角数字转半角、全角字母转半角、引号处理、折叠多余空白、省略号和破折号统一等子项。只启用本次材料需要的规则。

4

决定是否生成拼音。 打开【生成拼音标注】后,选择声调符号、声调数字或不带声调,并决定是否【按词切分后注音】。需要辅助分词的专名或术语可以加入【自定义词典】。

5

单独决定数字是否转正文。 【数字转正文】与全角数字转半角属于不同操作。前者涉及数字的中文写法,后者只改变字符宽度;需要保留原数字表达时,不要因想统一全半角而同时开启前者。

6

提交并打开报告。 核对每份文件的修改统计,点击文件行展开修改样例,再从页面顶部【下载原始数据】获取规范化后的主文件及已生成的拼音文件。

已有实例开启了繁简转换的【自动检测】、全部七项标点规则,以及带声调符号、按词切分的拼音标注;【数字转正文】保持关闭。因此,这个实例适合演示繁简、标点与拼音三个部分,不应写成已经完成了数字转正文。

02

从报告中核对改动

TATOOLS 使用教程配图

中文文本规范化实例报告:17 处标点或空白修改,繁简变更为 0,拼音覆盖 8,982 个汉字

这个实例处理了 1 份文件,字符数由 13,983 变为 13,985。标点和空白共修改 17 处,其中破折号统一 16 次、折叠多余空白 1 次;繁简变更为 0,因为自动检测后材料已经是简体。拼音覆盖为 8,982 个汉字。字符总量只增加 2,并不意味着只发生了 2 处修改。

先看【每份文件的修改统计】。 原字符数和改后字符数用于比较文本长度;繁简变更、标点修改、数字转正文和拼音覆盖分别对应不同处理。字符数相同也可能发生了繁简或标点替换,不能据此判断文件没有变化。

用【标点子项修改分布】定位主要改动。 每一项右侧的数字是该规则的修改次数。横条以本批次修改次数最多的子项为参照:最长的一条会占满宽度,并不表示整篇文本的标点都被修改,也不是各规则占比相加为 100% 的图。

点击文件行,查看【修改样例】。 报告会列出该文件的主输出、拼音文件和标点子项明细,并展示原文与规范化后的对照。利用这些样例检查引号、空白和繁简写法是否符合预期;全文内容以下载结果为准。

拼音覆盖数用于描述标注范围。 它与主文件字符数、各类修改次数回答的问题不同,不应把这些数相加当作总修改量。启用了拼音标注时,报告会给出对应的拼音文件名,可与主文件一起下载核对。

只有任务实际产生数字转换记录时,报告才会出现【数字转正文记录】。阅读已有实例时,应按实际启用的项目和出现的区块解释结果。


END