科技部部长谈人工智能,趋利避害是发展AI的应有之义
3月5日上午,第十四届全国人民代表大会第一次会议举行首场“部长通道”采访活动。科技部部长王志刚表示,希望国内外企业在AI领域能够取得更多好成果,同时提醒需要注意科技伦理、需要做到趋利避害。据悉,目前我国已在国际上率先提出AI治理八点主张。
当前,人工智能各项技术飞速发展,应用更加普及多元。从AI绘画、AI作曲到数字人,再到近期爆火的ChatGPT,伴随算法、算力和数据人工智能三要素的发展,生成式人工智能技术(Generative AI)加速发展,内容生产方式迎来巨大变革,将深刻影响人类社会发展。
AI赋能—取证大数据更智慧
作为国内电子数据取证行业龙头和公共安全大数据领先企业、网络空间安全与社会治理领域国家队,美亚柏科一直致力于相关业务的研究与探索,并将其赋能于公安科技平台。
美亚柏科人工智能科学家赵建强表示,以ChatGPT为代表的超大规模预训练语言模型技术的出现,将大大推动以自然语言处理为核心的认知智能技术的发展,加速AI生成内容相关业务的落地进程。
近期,美亚柏科基于多年对公共安全大数据业务和数据的深刻理解,采用“大规模预训练模型+下游任务迁移”的方法,实现了人与机器、机器与数据的高度智能融合,研发推出了智能警务助手——“小美”。
AI规范—内容安全有保障
以ChatGPT为代表的AIGC(人工智能生成内容)技术爆发式发展,随之而来的伦理规范、内容侵权、信息造假、隐私泄露等安全风险不容忽视,迫切需要针对这类AI生成的图像、文本等内容的检测识别能力,提升对互联网内容安全监管治理的水平。在不断“生长”的互联网内容世界,找到一把明晰虚实、分辨真假的技术标尺,也成为关乎行业长远健康发展的关键。
美亚柏科一直关注内容安全相关的技术和发展,从2019年就开始布局研究对深度合成内容的检测识别和鉴定相关技术,研发了针对视频图像伪造生成检测鉴定的产品,积极参与人工智能合成和生成技术合规应用的行业标准的制定,协助执法部门维护网络空间安全,规范人工智能技术的良性发展。
未来,美亚柏科将继续聚焦AI生成内容的检测识别技术升级,踔厉奋发,持续发力,针对深度合成文本、视频、图像的检测鉴定技术、生成式AI技术、人工智能安全取证技术等方面的应用需求,不断打磨推出更为安全、可信、可靠的人工智能技术产品,迎接新挑战,为维护和保障人工智能的安全发展贡献力量!