2021世界人工智能大会|瑞莱智慧田天:以深度伪造为代表的各类安全问题层出不穷,亟待解决

北京瑞莱智慧科技有限公司首席执行官田天在上海世界人工智能大会演讲时明确指出,人工智能产业正进入高质量发展阶段,以深度伪造为代表各类安全问题层出不穷,亟待解决。

蓝鲸TMT频道7月9日讯,北京瑞莱智慧科技有限公司首席执行官田天在上海世界人工智能大会演讲时明确指出,人工智能产业正进入高质量发展阶段,以深度伪造为代表各类安全问题层出不穷,亟待解决。

“比如公安机关、司法机关的图像鉴别工作,深度伪造技术的出现将导致举证工作存在风险。”田天补充道,“深度伪造技术也可能成为国家之间发起虚假信息战争的最新武器,抹黑政治人物、伪造政治制度和破坏国家间关系,甚至在未来军事战场上损毁特定军事或情报行动。在这种背景下,国内外政府高度重视,都出台了相关的监管制度。”

田天表示,以深度伪造为代表的安全问题,正是目前人工智能产业当前所面临的瓶颈。人工智能产业正经历从高速增长向高质量发展的转变,一方面产业期待进一步提升,金融、医疗等更复杂的高价值场景的应用需求不断增加,智能化场景从单一感知向多元认知发展;另一方面,各种安全问题的爆发,要求在追求性能效率的同时关注安全性的提升与保障。

这次大会期间,瑞莱智慧也发布了基于第三代人工智能的DeepReal深度伪造内容检测平台,具备工业级检测性能,能够快速、精准地对多种格式与质量的图像进行真伪鉴别,为遏制和防范深度伪造技术的大规模滥用提供有效技术支撑。

据北京瑞莱智慧科技有限公司副总裁唐家渝透露,在结果准确度方面,DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中,已达到99%以上的准确率。