2023年3月20日，由中国信息通信研究院（以下简称“中国信通院”）云计算与大数据研究所（以下简称“云大所”）、人工智能关键技术和应用评测工业和信息化部重点实验室（以下简称“实验室”）主办，南京新一代人工智能研究院承办，南京经济技术开发区人工智能企业产业链党建联盟协办的首届生成智能产业峰会顺利召开。

会上，中国信通院正式发布“生成式人工智能技术及产品评估方法”系列标准“技术能力”和“产品能力”两部分标准，并为标准核心编写单位、编写单位颁发证书，美亚柏科作为工作组成员单位被授予“生成式人工智能技术以及产品评估方法标准编写单位”证书。

美亚柏科代表领取证书（左5）

近年来，人工智能各项技术飞速发展，应用更加普及多元。其中，深度合成和生成式AI技术作为人工智能领域的创新应用技术，以其较低的应用门槛、较强的娱乐属性、丰富的应用场景备受关注。近日火爆全网的ChatGPT以及“换脸”、AI绘画、虚拟主播等大家所熟知的场景都使用了深度合成和生成式AI技术。在深度合成和生成式AI技术向社会生活的各个领域渗透之时，AI安全的负面风险持续加剧且产生实质危害。随着深度合成和生成式AI技术的开放开源、深度合成和生成产品和服务的增多，此类内容制作的技术门槛越来越低，实现了技术的“平民化”。通过深度合成和生成式AI技术制造虚假音视频图像进行诬陷、诽谤、诈骗、勒索等违法行为已屡见不鲜。

2021年，山东省公安厅网络安全总队就公布了几个利用深度合成和生成式AI技术实施诈骗的真实案例。合肥警方在“净网2021”专项行动中打掉一个利用深度合成技术进行犯罪的团伙，犯罪嫌疑人利用电脑将一张张静态照片制作为人脸动态视频，为黑灰产业链提供注册手机卡等技术支撑。

另一方面，深度合成和生成式AI技术一旦被滥用，将会造成巨大的安全风险与实质性危害，给个人、企业造成肖像、名誉等人格和财产权益损害，也可能给社会秩序、国家政治稳定和安全造成巨大威胁。

如将深度合成和生成式AI技术用于捏造国家政要言论、伪造公务人员虚假视频，可能给政治安全和国家安全带来重大危害。对个人与企业来说，深度合成和生成式AI技术的滥用也可能造成巨大权益损害。如企业高管被深度合成捏造视频篡改发言内容，可能造成市场恐慌，引发金融市场动荡。个人也可能被伪造虚假音视频等，被用来向其亲友诈骗或者伪造不雅视频侵害其名誉权。

由此可见，深度合成和生成式AI技术的快速发展为数字经济发展带来了令人期待的可能性，但也带来了令人担忧的巨大风险。有效治理深度合成和生成式AI技术需技术与立法齐头并进。

治理：立法规范

日前，为规范深度合成服务，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》通过系统性、创新性制度设计，首次回应了对深度合成服务的管理要求，为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。