语音社交软件安全吗? 腾讯小米字节快手等被约谈
  语音社交软件安全吗? 腾讯小米字节快手等被约谈
  作者: 吕倩
  在声音社交与短视频及直播越发火爆的当下,如果一个陌生人突然顶着你的声音与脸出现在网络端,你的惊讶程度会否大过对自身安全的担忧?
  3月18日,针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”(Deepfake)的技术的应用,国家互联网信息办公室、公安部指导北京、天津、上海、浙江、广东等地方网信部门、公安机关依法约谈映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等11家企业,督促其按照《网络安全法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等法律法规及政策要求,认真开展安全评估,完善风险防控机制和措施,并对安全评估中发现的安全隐患及时采取有效整改措施,切实履行企业信息内容安全主体责任。
  所谓“深度伪造”(Deepfake),也被译作“深度造假”,是计算机“深度学习”(Deeplearning)和“伪造”(fake)的组合,出现于人工智能和机器学习技术时代,通过自动化手段,尤其是人工智能算法技术进行智能生产、操纵、修改数据,实现媒体传播行为的一种结果。直白来讲就是在图片和声音中输入机器学习算法,进行“面部操作”(face manipulation),将一个人的脸部轮廓与表情转移至其他人脸上,同时利用对声音的处理制造出以假乱真的视频,大多数深度伪造都依托于名为生成式对抗网络(GANs)的深度学习技术。
  根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》要求,出现具有舆论属性或社会动员能力的信息服务上线,或者信息服务增设相关功能;使用新技术新应用,使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更;用户规模显著增加等情形,互联网信息服务提供者应当自行开展安全评估,对评估结果负责,并向网信部门和公安机关提交报告。网信部门和公安机关根据对安全评估报告的书面审查情况,认为有必要的,应当依据各自职责对互联网信息服务提供者开展现场检查。
  公开消息称,未来国家互联网信息办公室、公安部将继续指导各地网信部门和公安机关加大巡查检查力度,督促属地互联网企业严格遵守相关法律法规,积极主动履行安全管理义务,切实履行企业主体责任,共同维护网络传播秩序,营造良好网络生态。
  截至发稿,相关企业均未回应第一财经记者的采访要求。多位业内相关企业人士对第一财经记者表示,此举主要为了技术规范,对企业技术安全使用标准进行进一步的明确与统一。
  此前,语音社交软件Clubhouse 在全球范围内的火爆既引发同类产品的模仿追逐,也引发行业对声音社交安全性的思考。2019年夏天,一段似乎是“马克·扎克伯格”本人的假视频在Instagram上传播甚广,该“扎克伯格”在视频中声称已“完全控制了数十亿用户的数据,掌握了他们所有的秘密”。后经调查后发现这是一个艺术恶搞项目,AI换头技术和深度伪造(Deepfake)的危害,而非蓄意传播的虚假信息。
  后来,Facebook与Reddit共同出台针对Deepfake的审核政策,该政策的方向不是为彻底清除这种伪造模式,而是要进一步缩小“清除”的目标焦点。Facebook表示他们将从平台上移除“有强误导性的媒体信息”,这些信息由机器学习技术以普通人看不出的方式“编辑或合成”,误导传播视频中的“仿冒”人物所发表过的言论。
  另外,近期多家短视频平台上“蚂蚁牙黑”的换脸恶搞视频火爆刷屏,传播至抖音、快手、微博、朋友圈,该特效技术可以将人物图片同框一起魔性起舞。该换脸特效最初源自一款名为Avatarify的AI变脸软件。今年3月2日,Avatarify已在App Store中国区下架,官方并未说明下架原因。除了Avatarify外,Deep Nostalgia与ZAO等平台也因AI换脸应用引发争议,其背后原因均涉及DeepFake技术的以假乱真与面部识别带来的个人隐私泄露及滥用。
  一位不愿透露姓名的头部互联网安全工程师对第一财经记者表示,Avatarify的下架主要是因为换脸恶搞视频的侵权问题,技术层面上这些换脸应用有可能突破人脸识别身份认证的场景,攻击者可能利用AI换脸骗取风控系统。另外如今大火的声音社交中,语音伪造技术也会被犯罪组织利用。较大的厂商一直在改进相关技术,技术层面的研发提升与其本身存在的各类风险问题未来将长期对抗存在。随着相关技术监管的加强以及企业方的自我完善,未来AI换脸与声音社交的应用将更加严格与谨慎。
责任编辑:戚琦琦
阎焱评价袁隆平:坚持做原创技术 他给我们树立一个坐标
赛富亚洲投资基金创始管理合伙人阎焱在接受媒体采访时表示,袁隆平的发明算是原创的技术。中国过去20年,从1到N的创新居多,从0到1的少,青蒿素算是一个。因为中国从地方政府,到创业者心态,都是快餐文化,都希望赚快钱。袁老这么多年坚持不懈做一件事,我觉得袁老先生挺伟大的,我对他非常尊敬。他表示,在现在比较快餐速食的社会、商业性很浓的社会,袁老给我们树立一个坐标。0001全新换电模式:徐工新能源物流装备新产品推向市场
{video=1}徐工成套新能源运输装备暨智能换电产品发布会17日上午举行,换电牵引车、换电自卸车等五大系列21款新能源物流装备新产品推向市场,成为中国乃至全球新能源物流车辆推出车型最多、最齐全的品牌。{image=1}0000去年民营钢铁企业粗钢产量占比63.21%
全联冶金商会官网消息,2月2日,商会常务副会长王连忠对外表示,2020年,民营钢铁企业累计粗钢产量66569万吨,同比增长5.98%。占全国粗钢产量的比例由去年的62%增加到63.21%,增加1.2个百分点。责任编辑:薛永玮0000董明珠懂产品:我们懂消费者 视频|薇娅、李佳琦
6月6日,央视财经《对话》栏目薇娅、李佳琦同台接受采访,并现场连线董明珠,董明珠称自己最懂格力产品。李佳琦则称带货主播最懂消费者。责任编辑:鲍一凡,{video=1}0002小熊电器:小家电行业要回归产品本身 不再依靠电商红利
e公司讯,小熊电器(002959)董事长李一峰在参加证券时报e公司·高管面对面活动时表示,电商红利可能是小熊过去成长的一个很重要的助推器,未来电商将更加趋于成熟,更加趋于稳定发展。对于小家电行业而言,电商渠道已经成为一个主流渠道,未来行业可能更多是考虑回到产品本身去了,不再靠电商红利,而是更多元地考虑企业未来的发展路径问题。责任编辑:王翔0001