网信办约谈 “深度伪造”已成新兴网络威胁
2021/03/19
近日，国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作。
近两年，深度伪造，即deepfake不断登上新闻头条，成为一种主要的新兴网络威胁：
比如“假靳东”事件，仅靠合成的语音和视频就能演变成现象级诈骗；比如2017年，有人制作发布了奥巴马的deepfake演讲视频，引起全球风波；甚至连美国安全专家都曾发出警告，称DeepFake可能成为对下届美国总统大选造成影响的最有威胁的人工智能技术之一。
△国外可自动生成特朗普声音的网站
《人工智能时代数字内容治理机遇与挑战》报告中也指出，如今数字内容深度伪造正威胁社会稳定。政治或经济利益驱动下的内容造假，大范围地广泛传播或是针对特定人群的精准推送，将恶化数字内容质量，破坏信息传播秩序，甚至催生或煽动社会极化情绪, 诱发各种社会问题。
深度伪造是一种技术手段，所以要对这些数字内容进行治理，必须拥有“魔高一尺，道高一丈”的AI反制技术——鉴伪技术。
据悉，联合国区域间犯罪与司法研究所人工智能与机器人中心开始研究检测虚假视频的技术；
美陆军作战能力发展司令部也在积极研发基于云的“VICE”视频识别系统和基于服务器的“VIBES”语音识别系统，防范深度伪造；
国内目前各大厂商正在全速布局相关领域，远鉴就已经掌握了优秀的声纹鉴伪技术，并将其应用于多媒体音视频分析与处理，帮助合作伙伴有效对多媒体信息进行监控及关联，完善风险防控机制和措施，对语音、视频、图像等多媒体信息全方位作业。
远鉴的声纹鉴伪技术通过提取声音多尺度频域信息特征，再结合多算法融合分类与判决等技术，能够对语音产生的真实性、来源真实性等多个维度进行考量和分析，有效防止人声模仿、语音合成、录音回放、声音转换等行为，达到防范“深度伪造”的目的。在利用来源于多家语音合成平台的数据进行多次检测后，远鉴的检测准确率高达98.7%，效果相当理想。
其实除了深度伪造的风险，直播、短视频等音视频社交平台还存在着很多潜藏的风险——比如人工审核团队审核不及时、一人多马甲管理难、违规代播发现难等等问题。音视频处理与分析能力已经成为了此类应用重要的博弈砝码，优秀的技术能力能帮助应用更好的鉴别违法违规信息、保护优质内容、大幅提升用户体验度。
人工智能时代，数字内容治理的机遇与挑战将长期并存，技术既可以用来伪造视频、图像等内容，也能成为辨别虚假内容的“火眼金睛”。只要及时布局防御技术，加速相关技术研究，就无需恐慌，AI赋能数字内容产业繁荣发展才是大势所趋。
热门新闻
-
远鉴斩获IEEE SLT 2024三项竞赛冠亚军
喜报！远鉴信息斩获IEEE SLT 2024三个主题挑战赛竞赛荣誉：口吃事件检测和语音识别挑战赛第一名、歌声深度伪造检测挑战赛第一名，源说话人溯源挑战赛第二名。SLT 2024SLT(Spoken Language Technology)是由IEEE信号处理学会(IEEE Signal Processing Society)语音与语言处理…
-
远鉴斩获首届“金灵光杯”人工智能赛道一等奖
金灵光杯人工智能赛道一等奖！7月11日，首届“金灵光杯”中国互联网创新大赛颁奖典礼在京圆满收官。经过申报、初赛、决赛的激烈角逐和专家评委公正评审，远鉴信息《深度合成音视频生成与对抗鉴别应用研究》项目脱颖而出，斩获人工智能赛道一等奖。《深度合成音视频生成与…
-
储能安全新纪元丨全球首款储能多维生物识别安全解决方案上线！
前言据中电联数据显示，截至2023年6月底，全国电力安委会19家企业成员单位总计报送500kW/500kWh以上的各类电化学储能电站1024座、总功率27.22GW、总能量59.26GWh。储能作为促进新能源消纳的重要技术手段，是实现碳达峰、碳中和目标的关键。远鉴信息作为国内领先的人工智能…
-
远鉴信息2024开工动员大会召开！
一元复始，山河展新颜；蓄意待发，开启新征程。2月18日，远鉴信息2024开工动员大会在北京总部召开！远鉴信息董事长、执行总裁及部门以上负责人和全体员工齐聚一堂，共襄盛举。
-
新增专利授权13项！加速推动科技创新成果转化
2023年，远鉴成功共获得13项发明专利授权，涵盖语音、语言和图像处理等技术领域，涉及声纹识别、语音生成、音频鉴伪、语音评价、语音控制、自然语言处理、图像检测等智能处理技术。这彰显了公司在人工智能领域的持续创新，更凸显了公司对知识产权保护的重视。
-
国际竞赛 | 远鉴信息荣获ICASSP2024车载多通道语音识别挑战赛亚军
近日，ICASSP公布了车载多通道语音识别挑战赛（ICMC-ASR）排名结果。远鉴信息荣获亚军。
-
科研新高度！远鉴信息获准设立博士后科研工作站
近日，远鉴信息获准设为北京市博士后科研工作站园区分站。11月21日，北京市人力资源与社会保障局举办“新设站培训暨凝聚中国式现代化进程中的博士后力量推进会”，为远鉴信息等88家博士后科研工作站单位颁发牌匾。远鉴信息首席科学家郑榕博士出席并接受授牌。远鉴信息博士…
-
喜讯！远鉴信息荣获国家级专精特新“小巨人”企业称号
7月14日，北京市经济和信息化局发布了第五批专精特新“小巨人”企业公示名单，远鉴信息通过国家级“专精特新”小巨人企业认定，标志着公司在人工智能和信息安全领域创新技术实力和市场应用得到国家级认可。“专精特新”是指具有“专业化、精细化、特色化、新颖化”的“四…
-
语音生态多点布局！远鉴“谛听鉴音”系统与华为昇腾、昇思完成适配
导语：国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》，自2023年1月10日起施行。远鉴此次推出的语音深度鉴伪产品可满足伪造语音检测的安全需求。多年来，远鉴依托人工智能构建可信网络生态，在国家及社会需求的牵引下，在声纹…
