人工智能伦理道德规范征求意见:应向用户提供拒绝机制
原标题:防止人脸识别被滥用!人工智能伦理道德规范征求意见:应向用户提供拒绝机制
人脸识别因应用在进小区、动物园、商场等场景备受争议,最新征求意见的人工智能伦理道德规范指引似乎可以给出答案。
据全国信息安全标准化技术委员会官网11月9日消息,全国信息安全标准化技术委员会秘书处编制了《网络安全标准实践指南—人工智能伦理道德规范指引(征求意见稿)》公开征求意见。
针对可能产生的人工智能伦理道德问题,该征求意见稿给出了安全风险警示、提出了开展人工智能研究开发、设计制造、部署应用等相关活动的规范指引。 依据规定,部署应用者应向用户提供能够拒绝或停止使用人工智能的机制,并尽可能提供非人工智能的替代选择方案。
对于人工智能相关活动的风险,征求意见稿分析,可能存在失控性、社会性、侵权性、歧视性、责任性五种风险。
具体而言,失控性风险指人工智能的行为与影响超出研究开发者、设计制造者、部署应用者所预设、理解、可控制的范围,对社会价值产生负面后果的风险;社会性风险,即人工智能的使用不合理,包括滥用、误用等,影响社会价值观、引发系统性社会问题的风险;侵权性风险,即人工智能对人的基本权利、人身、隐私、财产等造成侵害或产生负面后果的风险;歧视性风险,即人工智能对人类特定群体产生主观或客观偏见,造成权利侵害或负面后果的风险;责任性风险,即人工智能相关各方责任边界不清晰、不合理,导致各方行为失当,对社会信任、社会价值产生负面后果的风险。
征求意见稿介绍了人工智能伦理道德规范指引,开展相关活动时,除了遵守法律法规、致力于实现安全可控等的人工智能之外,还应尊重并保护个人基本权利、人身、隐私、财产等权利,特别关注对弱势群体的保护。这里的弱势群体指生存状况、就业情况、发声途径或争取合法权益保障能力等方面处于弱势的群体。同时,应认识到人工智能存在的伦理道德安全风险,进行必要风险分析,在合理范围内开展人工智能相关活动。
对于研究开发者而言,征求意见稿提到,应避免出现损害人的基本权利、人身、隐私、财产等权利的应用场景,降低人工智能被恶意利用的可能性。谨慎开展具备自我复制或自我改进能力的自主性人工智能的研究开发,评估可能出现的失控性风险。此外,应不断提升人工智能的可解释性、可控性,应对研究开发关键决策进行记录并建立回溯机制,对人工智能伦理道德安全风险相关事项,进行必要的沟通、回应等。
对于设计制造者,征求意见稿表示,不应设计制造损害公共利益或个人权利的人工智能系统、产品或服务;应及时、准确、完整、清晰、无歧义地向部署应用者说明人工智能系统、产品或服务的功能、局限、安全风险和可能的影响;应在系统、产品或服务中设置事故应急处置机制,设置事故信息回溯机制,例如通过黑匣子实现无人驾驶的事故信息回溯。同时,应对人工智能伦理道德安全风险建立必要的保障机制,对引起的损失提供救济,例如通过购买保险等手段为必要救济提供保障。
对于部署应用者,征求意见稿要求,在公共服务、金融服务、健康卫生、福利教育等领域,进行重要决策时如使用不可解释的人工智能,应仅作为辅助决策手段,不作为直接决策依据。此处的不可解释,是指难以对特定决策或行为的产生过程或原因提供说明、证据或论证。
同时,部署应用者应向用户及时、准确、完整、清晰、无歧义地说明人工智能相关系统、产品或服务的功能、局限、风险以及影响,解释相关应用过程以及应用结果;应以清楚明确并便于操作的方式向用户提供能够拒绝或停止使用人工智能相关系统、产品或服务的机制;在用户拒绝或停止使用后,应尽可能为用户提供非人工智能的替代选择方案等。
对于用户,征求意见稿建议,应以良好目的使用人工智能、充分体现人工智能的正面价值,不应以有损社会价值、个人权利的目的恶意使用人工智能,同时应主动了解并反馈人工智能伦理道德安全风险。
(作者:张雅婷 )
责任编辑:薛永玮
南水北调中线工程向河北供水超百亿方 京津供水各超六十亿方
3月2日,澎湃新闻从南水北调中线建管局获悉,南水北调中线工程已累计输水361.22亿立方米,其中向河北省供水量突破100亿立方米,向天津供水60.06亿立方米,向北京供水62.13亿立方米,向河南供水123.28亿立方米,工程综合效益远远超过预期。{image=1}自2014年12月12日中线工程正式通水以来,河北受水区曾经吃水难、用水难、“有河皆干、有水皆污”的水资源困境成功破局。0000工信部副部长刘烈宏针对互联网企业5G技术应用发展提出三点建议
2020年11月11日,工业和信息化部党组成员、副部长刘烈宏主持召开互联网企业5G技术应用发展座谈会,专题听取了互联网企业关于5G技术应用进展情况汇报及发展意见建议,并与参会企业代表座谈交流。00012020年中国钢材出口明显下降 进口大幅增长
中国钢铁工业协会副会长屈秀丽27日在北京举行的发布会上表示,2020年,全国累计出口钢材5367万吨,同比下降16.5%,累计进口钢材2023万吨,同比增长64.4%。若考虑进口钢坯增加的情况,2020年中国粗钢净出口同比下降67.6%。凭借强大的国内市场需求,中国钢产量不但没有给全球钢铁市场带来消费压力,而且与世界分享了中国市场的繁荣。(记者阮煜琳)责任编辑:蒋晓桐0000“僵尸桩”仍存 充电桩企业盈利待解
充电桩利用率仍然不高,部分地区甚至出现“僵尸桩”的现象。与此同时,由于物业等问题,一些新能源汽车车主充电需求尚不能被满足。随着新能源汽车的发展,充电桩数量不断增长。不过,由于新能源汽车整体基数较小、部分充电桩企业前期盲目扩张等因素,充电桩利用率仍然不高,部分地区甚至出现“僵尸桩”的现象。与此同时,由于物业等问题,一些新能源汽车车主充电需求尚不能被满足。0000快手递交上市申请:腾讯是单一最大股东 和抖音越来越像?
部分内容来自上海证券报11月5日消息,全球领先的内容社区与社交平台快手已向香港联交所递交招股申请。招股书显示,快手2019年营收391亿元,截至2020年6月30日的今年上半年,营收为253亿元,同比增长48%。平均日活用户为3.02亿0001