解救“困在系统里”的骑手
原标题:解救“困在系统里”的骑手
中国人工智能发展的愿景应该以生态为中心,真正达到善治,实现技术的发展与人类、环境和谐共生。
新京报记者 张璐 编辑 张磊 校对 卢茜
2021全球数字经济大会人工智能产业治理论坛8月3日举行,首个《人工智能产业担当宣言》正式发布,倡议人工智能企业设立伦理研究员岗位或通过外部技术支持等方式,加强企业自律自治。
近年来,人工智能被误用、被滥用的问题引发舆论关注。此次《宣言》由北京智源人工智能研究院和瑞莱智慧共同发起,提出中国科技企业在推动人工智能自律自治、稳健发展中应积极承担的责任。在技术能力方面,要最大限度确保人工智能系统安全可信,增强算法透明性和可解释性,对用户数据提供充分的安全保障。
中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员曾毅在论坛上表示, 中国人工智能发展的愿景应该以生态为中心,真正达到善治,实现技术的发展与人类、环境和谐共生。针对生物特征识别潜在风险、用户隐私保护等人工智能治理的热点话题,他接受了新京报记者专访。
其他类型生物特征识别潜在风险也需要关注
新京报:目前人工智能企业对人工智能治理的态度如何?此前媒体报道过大数据“杀熟”、外卖员困在系统里等问题,如果破解算法被误用的问题?
曾毅:近几年,全球人工智能伦理规范以及我国新一代人工智能治理原则形成发布后,企业越来越意识到人工智能技术风险、社会伦理风险带来的实际问题,以及这些问题给企业带来的负面口碑和影响。
但我并不认为相关企业已经最大化避免了可能存在的风险,诸如大数据“杀熟”、骑手困在系统当中等问题,企业并非提前全然不了解,但面临企业的生存压力和同行竞争等外部压力,他们做出了有违道德价值观的选择,这种选择倾向了短期利益,忽略长期对社会和企业的负面影响,是得不偿失的。
所以学术界、政府、媒体应当与企业协同,做出真正对社会负责任的人工智能设计、研发、部署和服务,通过多方共治实现人工智能的稳健发展。
另外一个需要注意的问题是,一些企业将参与人工智能伦理、治理作为自己公关宣传的手段,但真正提供人工智能产品服务时,对于伦理风险有时避而不谈甚至是视而不见。
新京报:最近最高法发布司法解释,规范人脸识别应用。在AI换脸等技术盛行的今天,还有哪些问题值得关注?
曾毅:现在一些应用在人脸识别过程中,为了判断采集到的是活体,而不是一张照片在被识别,采集范围已经超过人脸,可能上半身相关数据都会被采集,但这些没有合理地告知用户。
用户看到手机屏幕有一个圈圈住人脸,会有一种误解,认为其他部分没有被采集。所以有些人赤裸上半身,有些女性穿得少一点也不会在意。一方面,采集超过人脸的信息必须做好用户的知情同意。另外,我认为,采集人脸以外的上半身信息作为确定活体依据的技术手段,需要逐步被替代。
此次最高法颁布的司法解释,限制的不仅仅是人脸识别技术,包括以人脸识别技术为核心的人脸生成技术,即对AI换脸也是适用的,并进行了限制。其实,我们的个人信息不仅是人脸,步态识别、指纹识别、声纹识别、远距离虹膜识别等生物特征识别技术,在技术和伦理方面的风险跟人脸识别有十分相近的共性,比如侵犯隐私、对于不同性别识别准确率存在差异等。
AI的创新性企业、研究机构应该共同负起责任,针对可能存在的技术和伦理问题,提前最小化或者消除其风险,而不是像人脸识别一样,等到公众关注讨论多了,再去解决问题。这就是“自律自治”和“主动担责”。
可持续发展的人工智能需关注
公益议题,不能只顾短期收益
新京报:在应用人工智能过程中,做好隐私保护还存在哪些难点?如何破解?
曾毅:举例来说,对目前人工智能产业当中广泛采用的深度神经网络而言,直接删除用户数据会对模型准确率产生影响,若想消除这种影响,技术上还存在巨大瓶颈。
但也有一些问题已经存在技术解决方案。比如人脸识别、步态识别等,可能存在隐私侵犯、性别偏见等问题,可以通过构建更合理、更公平的技术模型,缩小差异,但注意这些问题的企业还是少数。
新京报:人工智能伦理研究是否需要跨学科的专家组成?都涉及哪些相关专业?
曾毅:在两年前,绝大多数技术人员是不太关注人工智能伦理和治理的。如今,基于互联网的人工智能从设计研发到产品服务周期缩短,没有经过任何社会学、伦理学和哲学训练的理工科学生,想了一个创新主意,开发完系统第二天就可以上线,它可能产生的负面影响也将随即发生。
2018年开始,我们在中国科学院大学开设了《人工智能哲学与伦理》的课程。课堂上,学习人文科学的学生谈论更多的是技术会给社会带来什么问题,技术创新者更关注技术可能为社会带来的改变。当这些不同视角的辩论升级时,就会使我们意识到人工智能的潜在问题。
构建负责任的人工智能,需要广泛学科背景的专家来参与讨论,涉及社会学、哲学、伦理学、法学、人类学等,有工程技术背景的人工智能专家特别要参与其中。政府和媒体也毋庸置疑要发挥监督、宣传的作用,实现多方共治。
新京报:你提到人工智能发展的可持续性,如何理解和做到可持续?
曾毅:我们分析了计算机科学和人工智能领域发表的英文文献,发现800万篇人工智能和计算机科学相关的论文中,只有0.1%是真正跟可持续发展目标高度关联的,这是一个非常可悲的指标。
目前很多人工智能应用于健康、教育,但是它也可能给健康和教育带来负面影响,所以应该同步关注产生的负面影响,比如用人工智能分析学生在课堂的表情,引发了关于隐私的讨论。
大多数应用偏向于教育、健康,是因为这两个领域机遇多、能赚钱。如果人工智能的创新目标就是赚钱,那么很多可持续发展目标无法通过人工智能赋能来实现。
我特别倡议,人工智能应该特别关注野生动物保护、消除饥饿、赋能文化交互、环境保护和气候行动这类议题。仅仅有企业的参与是不够的,学术界、政府在这些更长远的议题上应当发挥持续性的主导作用。
责任编辑:王珊珊
欧佩克连续第三次下调原油需求预期
{image=1}记者|彭强当前原油市场前景仍不容乐观长期来看。长期看,需求增长态势也将逐渐放缓。当地时间10月13日,石油输出国组织(OPEC,下称欧佩克)公布其最新的石油市场月度报告,连续第三个月下调原油需求预期。欧佩克指出,今年全球原油需求将同比下降947万桶/日;全年保持在9029万桶/日,与上月预测值略下调了6万桶/日。0000北京郊区拟建11个养猪场 外媒关注中国多地城郊新建工业化养猪场
{image=1}报纸图:广西贵港市一家养猪场的员工准备用电梯运送幼猪(资料图片)参考消息网6月12日报道路透社北京6月11日报道称,中国正在城市附近建设工业化养猪场,这个全球最大的猪肉消费国将新增约两亿头生猪,劳动密集程度更低。美国设备供应商豪格斯莱特公司上海分公司经理邹志宏说,北京郊区今年拟建11个养猪场,北京四方红饲料科技有限公司总经理祖胜正在建造其中之一。”0006搜狗原CFO周毅退出北京搜狗信息服务有限公司法定代表人、董事长
搜狗原CFO周毅退出北京搜狗信息服务有限公司法定代表人、董事长e公司讯,7月13日,天眼查数据显示,北京搜狗信息服务有限公司发生工商变更,搜狗原CFO周毅退出法定代表人、董事长,由许静芳接任。王小川仍担任该公司董事、经理。责任编辑:何中夫0000“牙茅”通策医疗董事长“自曝”无视防疫政策?“找关系”进寺烧香,还火速删改微博!当地政府紧急回应…
原标题A股公司董事长“自曝”无视防疫政策?“找关系”进寺烧香,还火速删改微博!当地政府紧急回应…“牙茅”通策医疗(600763)董事长吕建明,微博晒出的径山寺烧香祈福活动,不经意间将自己违反当地防疫政策的行为暴露,此事迅速引发了社会的广泛关注,甚至是众怒。0000中国国航回应英国《卫报》错误配图:已向对方送达律师函
相关新闻:被中国使馆抗议后英国《卫报》悄悄换下国货航标志图片仍未道歉新京报快讯据中国国际航空官博消息,2月22日,英国《卫报》在报道其他航空公司发生零件掉落事故时,错误配发带有国航标识的同类机型图片,对我公司形象造成负面影响。国航与英国《卫报》进行了严正交涉,对其失实报道、不负责任行为表示强烈不满,要求其立即更正不实内容并正式公开道歉。国航目前已向对方送达律师函。{image=1}0000