数据安全乱象频生 院士呼吁AI治理“标本兼顾”
原标题:数据安全乱象频生 院士呼吁AI治理“标本兼顾”
本报记者 谭伦 北京报道
“这个安全问题不是来自于你设计的考虑不周到,而是主要来源于算法本身的不安全性。”在8月3日北京举行的全球数字经济大会人工智能产业治理论坛上,中国科学院院士、清华大学人工智能研究院院长张钹表示,这是当下人工智能领域安全问题频发的根源所在。
《中国经营报》记者注意到,近日高频爆发的企业数据安全问题,已使官方层面密集出台行动决策,其中焦点领域之一便是目前内嵌于各大APP的智能算法。如中宣部等五部门联合日前印发的《关于加强新时代文艺评论工作的指导意见》便明确要求,健全完善基于大数据的评价方式,加强网络算法研究和引导,开展网络算法推荐综合治理,不给错误内容提供传播渠道。
张钹告诉记者,人工智能算法本身带来的不安全问题很难被预先发现或觉察,所以如果我们在使用过程中稍不注意便会产生无意识错用,从而造成非常严重的后果,为此,他认为技术创新是解决这一问题的良策之一。
除此之外,记者在本次论坛上注意到,人工智能领域的善治,还有赖于法规、伦理以及企业自身等诸多层面的因素,对此多位权威人士也均给出了相关建议。
源头出在自身
在张钹看来,与信息系统中安全风险常来自软件设计漏洞不同,目前引发人工智能算法安全风险的源头更多在于技术本身。“这是由于第二代人工智能技术本身所引起的,第一代人工智能技术并不存在这个问题。”张钹表示。
据记者了解,人工智能技术最早于1956年起步于国外,到目前为止已经历两代。第一代人工智能以知识驱动为特征,也被称作“符号主义”;第二代人工智能则以数据驱动为特征,即目前为人熟知的“大数据”“深度学习”。中国人工智能技术从1978年开始发展,此前以第一代人工智能技术为主,进展较小,近20年里进入第二代后才迅猛发展,但也同时带来此前未有的风险。
为此张钹提出了发展“第三代人工智能”的呼吁,后者具备知识、数据、算法和算力四大要素,既能最大化当前人工智能技术的效能,也能规避第二代技术自带的算法风险。
不过,创新之路并非坦途,张钹强调,发展第三代人工智能是一项非常长期的任务,人工智能安全和治理也是长期的任务。
“我们解决人工智能安全性问题必须两手抓:第一手抓治理,这个治理不是短期的任务,是长期的任务;第二手抓创新发展,这个创新发展要克服人工智能算法本身的不安全性,这也是一个长期的任务。我们虽然有两种途径去做,但这两种途径都非常困难。”张钹表示。
“治本”亦需“治标”
张钹在指出应从技术创新层面发力去“治本”的同时,也向记者表示,从法律法规、伦理规范、行业共识等不同层面去“治标”也同样重要。
中伦律师事务所合伙人陈际红对9月1日起即将施行的《中华人民共和国数据安全法》(以下简称“《数据安全法》”)进行了解读。在其看来,由于人工智能和社会的关系越来越密切,所以立法司法解释已经进入到隐私保护、数据安全、网络安全、公平竞争、消费者权益保护等各个层面。
由于人工智能的产业都离不开数据处理,因此《数据安全法》和人工智能发展密切相关。陈际红认为,该法在法律里建立起数据安全的标准化体系,设定一个数据安全的检测评估和认证的管理体制。“重要的还是数据分类分级的制度,重要数据和核心数据的清单和管理制度,预警处理机制和数据活动的国家安全审查,数据处理活动和国家安全密切相关,数据交易和数据的准入和监管,以及数据跨境流动的监管规则。”陈际红表示。
伦理规范层面,中国科学院自动化研究所研究员、联合国教科文组织人工智能伦理特设专家组专家曾毅认为,人工智能的治理并不存在“发展优先还是治理先行”的矛盾,人工智能稳健发展的两大前提是可持续发展和人工智能的善治,两者深度协同。
中国社科院科技哲学研究室主任、科学技术和社会研究中心主任段伟文则认为,数字技术与人工智能产业发展的伦理风险带来了诸多社会信任问题,面对既防患于未然也溯及既往的数字治理趋势,人工智能企业应直面社会许可的挑战,认真感知公众对科技企业的认知和评价。“人工智能企业不应回避社会监督,而是不断思考、重塑科技的社会印象,技术改进和伦理设计要齐头并进,携手走向共建性的人工智能伦理治理。”段伟文表示。
此外,在行业共识方面,记者注意到,本次大会推出了国内首个《人工智能产业担当宣言》,这一宣言由北京智源人工智能研究院、瑞莱智慧发起,联合百度、华为、蚂蚁集团等国内产业领军企业和机构进行发布。在发起仪式上,宣言成员代表表示,宣言将为积极探索国内人工智能治理的新路径提供有益经验。
责任编辑:王蒙
天然气价格与电价齐飞,欧洲还能安然过冬吗
尽管此后欧洲天然气的主要供货商俄罗斯天然气公司发布“安民告示”,欧洲天然气价格有所回落,但多数分析师对至今年底、明年初的欧洲天然气价格依旧不抱乐观期望。欧洲的天然气危机仍未见好转。随着冬季日益临近,留给各方应对的时间不多了。截至第一财经发稿时,有欧洲天然气价格“风向标”之称的TTF基准荷兰天然气期货欧市上涨3.83%,报93.45欧元/兆瓦时。0001韩系车为何在中国市场遭遇“寒冬”?
记者丨段思瑶最近,东风汽车集团有限公司(以下简称东风公司)被传将退股东风悦达起亚。在此之前,另一韩系品牌北京现代已经将第一工厂出售给理想汽车,第二工厂也被传处于待售状态,而其重庆工厂又疑似处于停产状态。{image=1}0000北京交通委:网约车违规出京 高限处罚15万元
每经编辑步静据北京市交通委员会官方微博1月13日消息,网约车违规出京,高限处罚15万元!消息全文如下:为做好新冠病毒肺炎疫情防控工作,防止疫情通过交通工具传播和扩散,保障乘客的健康,北京市交通运输综合执法总队持续严查网约车平台落实疫情防控要求不到位的情况。0000元气森林推出能量饮料“外星人” 瞄准怕累又怕胖的年轻人
尽管此次推新动作寥寥,截至发稿,天猫外星人旗舰店中销量最高的6瓶装能量饮,月销量已达3967件。根据天眼查信息,元气森林(北京)食品科技集团有限公司的对外投资关系中有一家成立于2019年11月4日的公司,该公司为滁州外星人饮料有限公司,且滁州外星人饮料有限公司和元气森林母公司的法人均为李炳前。外星人能量饮的布局或从2019年底启动,那么从注册公司到上市新品,元气森林仅仅花了半年时间。0008透视百世出海战略:主攻东南亚,越南增至1500个站点
记者|白帆自百世将国内快递业务卖给极兔之后,其下一步发展方向一直备受瞩目。近日,百世公布在越南的发展计划,展示出进军东南亚的决心。出海首站选中越南1月26日,百世方面对外透露,百世2021年在越南的全年件量同比提升325%,达2700万件。0000