网站首页
当前位置:主页 > 产经新闻 >

AI生成内容可以检测!准确率超90%

来源:互联网 时间:2023-03-17 09:49

小字号

国内首个AI生成内容检测工具——AIGC-X官网截图。

人民网北京3月1日电 (记者申佳平)从AI绘画、AI作曲到虚拟人,再到近期爆火的ChatGPT, 伴随人工智能生成内容(AIGC)技术发展加速,内容生产方式迎来巨大变革。与此同时,在不断“生长”的互联网内容世界,找到一把明晰虚实、分辨真假的技术标尺,也成为关乎行业长远健康发展的关键。

今日,AIGC-X正式开始全网公测。据悉,这是由人民日报社主管、依托人民网建设的传播内容认知全国重点实验室,中国科学技术大学,合肥综合性国家科学中心人工智能研究院联合推出的国内首个AI生成内容检测工具。试用入口为。

据介绍,AIGC-X可快速区分机器生成文本与人工生成文本,目前对中文文本检测的准确率已超过90%。

传播内容认知全国重点实验室首席科学家张勇东表示,因具有对话咨询、文章写作、内容润色等广泛的应用场景,以ChatGPT为代表的AIGC技术迎来发展新阶段。随之而来的伦理规范、内容侵权、信息造假等风险挑战同样不容忽视,迫切需要推出针对性的检测产品,提升对内容生产新范式的监管治理技术能力。

他介绍,通过采用算法融合与知识驱动的人工智能框架,使用深度建模来捕捉困惑度、突现频次等隐式特征,AIGC-X可对AI技术生成的假新闻、内容抄袭、垃圾邮件进行检测,在内容版权、网络钓鱼、虚假信息和学术造假检测等内容安全、内容风控方面有广阔的应用前景。未来,AIGC-X还会扩展为对人工智能生成文本、图像乃至视频的通用智能识别模型。

“AIGC迫切需要适当的引导和规范。”传播内容认知全国重点实验室研究员靳国庆特别强调,要重视防范AIGC在虚假信息、学术造假、网络钓鱼等灰色领域的滥用。“AIGC-X将推动AI风险管理、安全评测技术的发展,为建立安全可控的AIGC生态提供技术支撑。”

据介绍,在此次发布AIGC-X之前,传播内容认知全国重点实验室已推出基于人工智能开发的“智晓助”和“白泽”两个内容风控系统,并在百余家机构使用。专注于内容风控业务的人民网信息技术公司已基于AIGC-X开发了“捕获AIGC”产品,通过“人民审校”微信公众号对外发布。

工业和信息化部公布的数据显示,我国AI核心产业规模目前已超过4000亿元,企业数量接近4000家,带动相关产业规模超数万亿元,并将持续快速增加。行业专家预测,作为数字经济和实体经济深度融合的新模式,AIGC将在赋能产业创新发展方面大有作为。

张勇东表示,“AIGC-X不是一个静态的技术,而是随着AIGC的发展而发展的。”目前受限于时间和资源,AIGC-X对非常规问题和场景的支持还有待完善。例如,AIGC-X目前只支持中文内容的检测,对英文的支持有待提高;还需要进一步完善对图像、音视频等内容的检测能力,支持全媒体的内容检测,为AIGC的健康发展保驾护航。


(责编:王震、章斐然)

关注公众号:人民网财经

分享让更多人看到

推荐阅读 权威部门话开局 | 工信部:专精特新中小企业呈现专业化、精细化、特色化、创新型四大特点     人民网北京3月1日电 (记者申佳平)3月1日,国务院新闻办公室举行“权威部门话开局”系列主题新闻发布会,工业和信息化部部长金壮龙介绍“加快推进新型工业化 做强做优做大实体经济”有关情况。金壮龙表示,一大批专精特新企业脱颖而出,成为中小企业发展的一个亮点,充分体现出专业化、精细化、特色化、创新型的发展特点。…    
明阳集团张传卫:敢于作为勇于担当,不断提升发展内生动力     “爬坡过坎,关键是提振信心”。2022年12月15日至16日召开的中央经济工作会议指出,2023年经济工作千头万绪,要从战略全局出发,从改善社会心理预期、提振发展信心入手,纲举目张做好工作。基于此,人民网《对话企业家》栏目推出“百家企业谈信心”特别策划,对话重点行业领域企业负责人,传递市场声音、提振发展信心、激励使命担当。…    

(责任编辑:小编)