登陆注册
715582

数据安全乱象频生 院士呼吁AI治理“标本兼顾”

贝果财经2021-08-04 18:16:141

原标题:数据安全乱象频生 院士呼吁AI治理“标本兼顾”

本报记者 谭伦 北京报道

“这个安全问题不是来自于你设计的考虑不周到,而是主要来源于算法本身的不安全性。”在8月3日北京举行的全球数字经济大会人工智能产业治理论坛上,中国科学院院士、清华大学人工智能研究院院长张钹表示,这是当下人工智能领域安全问题频发的根源所在。

《中国经营报》记者注意到,近日高频爆发的企业数据安全问题,已使官方层面密集出台行动决策,其中焦点领域之一便是目前内嵌于各大APP的智能算法。如中宣部等五部门联合日前印发的《关于加强新时代文艺评论工作的指导意见》便明确要求,健全完善基于大数据的评价方式,加强网络算法研究和引导,开展网络算法推荐综合治理,不给错误内容提供传播渠道。

张钹告诉记者,人工智能算法本身带来的不安全问题很难被预先发现或觉察,所以如果我们在使用过程中稍不注意便会产生无意识错用,从而造成非常严重的后果,为此,他认为技术创新是解决这一问题的良策之一。

除此之外,记者在本次论坛上注意到,人工智能领域的善治,还有赖于法规、伦理以及企业自身等诸多层面的因素,对此多位权威人士也均给出了相关建议。

源头出在自身

在张钹看来,与信息系统中安全风险常来自软件设计漏洞不同,目前引发人工智能算法安全风险的源头更多在于技术本身。“这是由于第二代人工智能技术本身所引起的,第一代人工智能技术并不存在这个问题。”张钹表示。

据记者了解,人工智能技术最早于1956年起步于国外,到目前为止已经历两代。第一代人工智能以知识驱动为特征,也被称作“符号主义”;第二代人工智能则以数据驱动为特征,即目前为人熟知的“大数据”“深度学习”。中国人工智能技术从1978年开始发展,此前以第一代人工智能技术为主,进展较小,近20年里进入第二代后才迅猛发展,但也同时带来此前未有的风险。

为此张钹提出了发展“第三代人工智能”的呼吁,后者具备知识、数据、算法和算力四大要素,既能最大化当前人工智能技术的效能,也能规避第二代技术自带的算法风险。

不过,创新之路并非坦途,张钹强调,发展第三代人工智能是一项非常长期的任务,人工智能安全和治理也是长期的任务。

“我们解决人工智能安全性问题必须两手抓:第一手抓治理,这个治理不是短期的任务,是长期的任务;第二手抓创新发展,这个创新发展要克服人工智能算法本身的不安全性,这也是一个长期的任务。我们虽然有两种途径去做,但这两种途径都非常困难。”张钹表示。

“治本”亦需“治标”

张钹在指出应从技术创新层面发力去“治本”的同时,也向记者表示,从法律法规、伦理规范、行业共识等不同层面去“治标”也同样重要。

中伦律师事务所合伙人陈际红对9月1日起即将施行的《中华人民共和国数据安全法》(以下简称“《数据安全法》”)进行了解读。在其看来,由于人工智能和社会的关系越来越密切,所以立法司法解释已经进入到隐私保护、数据安全、网络安全、公平竞争、消费者权益保护等各个层面。

由于人工智能的产业都离不开数据处理,因此《数据安全法》和人工智能发展密切相关。陈际红认为,该法在法律里建立起数据安全的标准化体系,设定一个数据安全的检测评估和认证的管理体制。“重要的还是数据分类分级的制度,重要数据和核心数据的清单和管理制度,预警处理机制和数据活动的国家安全审查,数据处理活动和国家安全密切相关,数据交易和数据的准入和监管,以及数据跨境流动的监管规则。”陈际红表示。

伦理规范层面,中国科学院自动化研究所研究员、联合国教科文组织人工智能伦理特设专家组专家曾毅认为,人工智能的治理并不存在“发展优先还是治理先行”的矛盾,人工智能稳健发展的两大前提是可持续发展和人工智能的善治,两者深度协同。

中国社科院科技哲学研究室主任、科学技术和社会研究中心主任段伟文则认为,数字技术与人工智能产业发展的伦理风险带来了诸多社会信任问题,面对既防患于未然也溯及既往的数字治理趋势,人工智能企业应直面社会许可的挑战,认真感知公众对科技企业的认知和评价。“人工智能企业不应回避社会监督,而是不断思考、重塑科技的社会印象,技术改进和伦理设计要齐头并进,携手走向共建性的人工智能伦理治理。”段伟文表示。

此外,在行业共识方面,记者注意到,本次大会推出了国内首个《人工智能产业担当宣言》,这一宣言由北京智源人工智能研究院、瑞莱智慧发起,联合百度、华为、蚂蚁集团等国内产业领军企业和机构进行发布。在发起仪式上,宣言成员代表表示,宣言将为积极探索国内人工智能治理的新路径提供有益经验。

责任编辑:王蒙

0001
评论列表
共(0)条
热点
关注
推荐