百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

AI应用实例分析——文本纠错 ai文本工具

bigegpt 2024-10-14 08:22 11 浏览

编辑导语:AI在现实中的应用有很多,你有没有想过,它还可以进行文本纠错呢?传统的校对既耗时又枯燥,通过AI纠错,不仅能更快完成,还能提高准确度。那么AI“文本纠错”背后的原理是什么呢?和我一起看看吧!

前面跟大家分享了AI开放平台的相关内容,之后想围绕AI应用实例这块跟大家分享交流,这节主要讲述跟NLP相关的一个应用实例——“文本纠错”。

一、背景

虽然这几年短视频在内容传播方面发展得很火,但是文稿仍然占据重要地位。而文稿传播最重要的一点就是信息的准确性,尤其是一些有知名度的正式平台更是会在文稿发送前进行校对修正。

传统的人工校对工作量是非常大的,一篇5000字的文稿完成校对差不多需要1-2个小时,对于校稿人员来说既耗时又枯燥。有一家内容平台就提出,希望我们通过AI能力提供快速校对工具,主要针对中文文稿,帮助校稿人员和编辑人员减少内容错误。

为了满足该需求,我们基于NLP技术提供了文本纠错服务。

二、关键技术

文本纠错中用到的技术的前世今生在这不过多介绍了,目前文本纠错的主流方向还是使用机器学习的方式来完成,其中需要用到的核心技术主要包括语言知识学习、上下文理解和知识计算。

  • 语言知识学习:可以理解为是对语言规则等先验知识的学习,通过学习词法、句法等规则进行语言模型构建,例如中英文的主谓宾结构就是不一样的。
  • 上下文理解:是指分析错误点上下文语境和语义,从纠错候选中选择最合适的。尤其是中文,相同的词汇在不同语境中往往表达不同的含义。
  • 知识计算:知识计算主要包括关联知识计算和文本理解,关联知识主要是通过对全局知识的统计来实现纠错,可以是局部不完整语句的补充。文本理解是通过统计理解全局句子内容,解决低频领域知识的泛化问题。

三、产品设计

1. 应用场景

(1)用户场景:审稿或者编辑人员输入中文文字信息,系统自动纠错,并给出修改建议,审稿人员对错误快速修订。

(2)应用边界:

  • 支持用词错误检测,针对音近、形近的错字和别字进行纠正
  • 支持句子级错误检测,主要是针对句子中出现的多字、少字等错误,相对难度校大。
  • 支持场景类错误纠正,这类错误需要具备一些特定领域的知识才能识别纠错,所以尽量支持。

2. 产品定位

  • 产品定位:为应用工具型产品,实现中文文本自动纠错功能。
  • 用户定位:满足两类B端用户,第一类针对具备自主的文稿编辑工具,提供API服务,与现有系统进行改造融合;第二类是针对缺少文稿编辑工具的用户,提供web页面功能。

3. 产品业务流程

产品核心业务流程主要是产品端和算法端的交互,具体业务流程如下:

4. 产品功能设计

(1)页面功能设计

页面核心功能主要包括如下:支持内容上传、内容审查、结果确认和内容下载。

主要页面设计如下:

(2)API接口设计

包括内容纠错请求接口和结果回调接,分别用于内容审查纠错和结果返回,以下描述主要的输入和输出参数:

  • 输入:接口鉴权、文本内容、文本编码格式等。
  • 输出:文本分析结果,包括源文本、纠错文本、文本位置,置信度。

5. 评估指标

产品上线前,需要对产品的性能进行评估,主要包括三个指标:误报率、召回率和处理时间。

  • 误报率:代表正确的句子被改错的比率,等于正确句子被纠错的个数/正确句子的个数。
  • 召回率:代表错误的句子被全部纠正的比率,等于含有错误的句子被改正的数量/所有含错误的句子数量。
  • 处理性能:代表处理多少个字符的耗时,单位是千字耗时,s/千字符。

四、结论

文本纠错是NLP非常基础的场景应用,但是实际业务价值却是很大的。在具体业务场景应用方面不仅可以用在在媒体编辑、电子病历等输入文本纠错,还可以应用于语音搜索、客服问答等业务。

本文由@Eric_d 原创发布于人人都是产品经理,未经许可,禁止转载

题图来自 Unsplash,基于CC0协议

相关推荐

当Frida来“敲”门(frida是什么)

0x1渗透测试瓶颈目前,碰到越来越多的大客户都会将核心资产业务集中在统一的APP上,或者对自己比较重要的APP,如自己的主业务,办公APP进行加壳,流量加密,投入了很多精力在移动端的防护上。而现在挖...

服务端性能测试实战3-性能测试脚本开发

前言在前面的两篇文章中,我们分别介绍了性能测试的理论知识以及性能测试计划制定,本篇文章将重点介绍性能测试脚本开发。脚本开发将分为两个阶段:阶段一:了解各个接口的入参、出参,使用Python代码模拟前端...

Springboot整合Apache Ftpserver拓展功能及业务讲解(三)

今日分享每天分享技术实战干货,技术在于积累和收藏,希望可以帮助到您,同时也希望获得您的支持和关注。架构开源地址:https://gitee.com/msxyspringboot整合Ftpserver参...

Linux和Windows下:Python Crypto模块安装方式区别

一、Linux环境下:fromCrypto.SignatureimportPKCS1_v1_5如果导包报错:ImportError:Nomodulenamed'Crypt...

Python 3 加密简介(python des加密解密)

Python3的标准库中是没多少用来解决加密的,不过却有用于处理哈希的库。在这里我们会对其进行一个简单的介绍,但重点会放在两个第三方的软件包:PyCrypto和cryptography上,我...

怎样从零开始编译一个魔兽世界开源服务端Windows

第二章:编译和安装我是艾西,上期我们讲述到编译一个魔兽世界开源服务端环境准备,那么今天跟大家聊聊怎么编译和安装我们直接进入正题(上一章没有看到的小伙伴可以点我主页查看)编译服务端:在D盘新建一个文件夹...

附1-Conda部署安装及基本使用(conda安装教程)

Windows环境安装安装介质下载下载地址:https://www.anaconda.com/products/individual安装Anaconda安装时,选择自定义安装,选择自定义安装路径:配置...

如何配置全世界最小的 MySQL 服务器

配置全世界最小的MySQL服务器——如何在一块IntelEdison为控制板上安装一个MySQL服务器。介绍在我最近的一篇博文中,物联网,消息以及MySQL,我展示了如果Partic...

如何使用Github Action来自动化编译PolarDB-PG数据库

随着PolarDB在国产数据库领域荣膺桂冠并持续获得广泛认可,越来越多的学生和技术爱好者开始关注并涉足这款由阿里巴巴集团倾力打造且性能卓越的关系型云原生数据库。有很多同学想要上手尝试,却卡在了编译数据...

面向NDK开发者的Android 7.0变更(ndk android.mk)

订阅Google官方微信公众号:谷歌开发者。与谷歌一起创造未来!受Android平台其他改进的影响,为了方便加载本机代码,AndroidM和N中的动态链接器对编写整洁且跨平台兼容的本机...

信创改造--人大金仓(Kingbase)数据库安装、备份恢复的问题纪要

问题一:在安装KingbaseES时,安装用户对于安装路径需有“读”、“写”、“执行”的权限。在Linux系统中,需要以非root用户执行安装程序,且该用户要有标准的home目录,您可...

OpenSSH 安全漏洞,修补操作一手掌握

1.漏洞概述近日,国家信息安全漏洞库(CNNVD)收到关于OpenSSH安全漏洞(CNNVD-202407-017、CVE-2024-6387)情况的报送。攻击者可以利用该漏洞在无需认证的情况下,通...

Linux:lsof命令详解(linux lsof命令详解)

介绍欢迎来到这篇博客。在这篇博客中,我们将学习Unix/Linux系统上的lsof命令行工具。命令行工具是您使用CLI(命令行界面)而不是GUI(图形用户界面)运行的程序或工具。lsoflsof代表&...

幻隐说固态第一期:固态硬盘接口类别

前排声明所有信息来源于网络收集,如有错误请评论区指出更正。废话不多说,目前固态硬盘接口按速度由慢到快分有这几类:SATA、mSATA、SATAExpress、PCI-E、m.2、u.2。下面我们来...

新品轰炸 影驰SSD多款产品登Computex

分享泡泡网SSD固态硬盘频道6月6日台北电脑展作为全球第二、亚洲最大的3C/IT产业链专业展,吸引了众多IT厂商和全球各地媒体的热烈关注,全球存储新势力—影驰,也积极参与其中,为广大玩家朋友带来了...