应用风险加剧 将AI关进笼子还需政策发力

    朱茵变杨幂的换脸视频犹在眼前,近日“换脸”APP “ZAO”又因其用户隐私协议不规范、存在数据泄露风险等网络数据安全问题被相关部门约谈。

    事实上,近年来,AI正在以一种超乎想象的速度迅猛发展,,其背后隐藏的诸多问题也逐渐凸显。日前Facebook再次因数据安全问题受到关注,据外媒报道,一个存储了数亿Facebook用户电话号码的在线数据库泄露。面对AI治理难题,目前各国正加紧制定相关政策法规。

    大规模应用裹挟着诸多风险

    近年来,在AI产业的博弈中,各国都在全力争取发展先机。

    “无论从企业数量上还是投融资规模上看,美国和中国无疑是人工智能领域的重量级玩家。”国务院发展研究中心国际技术经济研究所研究一室副主任宫学源在《人工智能全球格局:未来趋势与中国位势》一书中提到,两国的科技巨头通过重新制定战略、大规模收并购等手段,已经在全球人工智能产业领域获得了极高的话语权。但从人均AI初创企业数量和人均投融资水平上看,英国、法国、德国和以色列等国家完全不落下风。日韩等国也正纷纷制定国家级战略,以期实现人工智能技术的反超和部分产业的引领。

    “机遇往往与挑战并存,AI大规模应用必将裹挟着诸多风险,如木马、病毒、僵尸网络等技术要素风险,电信网络诈骗、群体(算法)歧视等组织管理风险,色情信息、暴恐信息、虚假信息等在线内容风险。”北京师范大学网络法治国际中心执行主任吴沈括表示,因此,在给与AI足够的养分令其成长的同时,各国也都在汲汲探寻AI治理的方案。

    “民间”倡议百花齐放

    2018年,第40届数据保护与隐私专员国际大会上发布的《人工智能伦理与数据保护宣言》认为,应根据公平原则,在基本人权层面设计、开发和使用人工智能和机器学习技术;持续关注AI系统潜在影响和风险,并确立问责机制,实现“可控”;应改进人工智能系统的透明度和可理解度,以实现有效施行;作为整体“伦理设计”方法的一部分,应通过默认应用隐私原则和设计隐私来对人工智能系统进行负责任地设计和开发;应当减少和减轻因使用人工智能数据而可能导致的非法偏见或歧视。

    2019年,欧洲委员会发布《人工智能与数据保护指南》,也首先强调了人权和人的基本自由为先,特别是在个人数据保护方面。用于个人数据处理的人工智能研发应基于合法性、公平性、目的特定性、数据处理比例性、设计隐私与默认隐私、责任与合规展示(问责)、透明度、数据安全和风险管理等原则。

    与上述西方国家主导的宣言、指南相比,AI治理的中国路则出现了不一样的风景。法律层面,与大部分国家一样,《个人信息保护法》《数据安全法》《电信法》等相关法律正在拟定中;社群倡议方面,2019年6月,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,明确指出了“AI治理八原则”:和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理。清华大学人工智能与安全项目小组也提出“AI治理六原则”,即福祉、安全、共享、和平、法治、合作。

    2019年5月,北京智源人工智能研究院联合北京大学、清华大学、中科院等单位,共同发布《人工智能北京共识》,提出对人工智能部分替代人类工作保持包容和谨慎态度,鼓励探索更能发挥人类优势和特点的新工作,广泛开展国际合作,共享人工智能治理经验。人工智能的准则与治理措施应做到适应和适度,并开展长远战略设计,以确保未来人工智能始终保持向对社会有益的方向发展。

    AI治理中西方各有不同

    “从中西方国家社群团体的倡议指引中可以看出,双方治理AI在对人类共同福祉的追求、对公平公正价值的坚持、对系统管理风险的重视、对开放共享共治的倡导方面都持有相似的观点。”吴沈括指出,但在很多地方也体现出了差异。

    相较于西方国家,我国在遵循相同治理原则的基础上更希望能够实现人机和谐,如在“AI治理八原则”中的首条原则即为和谐友好,符合人类的价值观和伦理道德,促进人机和谐,服务人类文明进步。

    未来,东西方的融合交汇必将是AI治理的大趋势,动态持续的多边对话、以人为中心的顶层设计建构、着眼于应用场景的差别规范设计以及平衡安全发展的利益平衡规则都将成为东西方存异求同的立足点。”吴沈括说。(于紫月)

    [ 责编:张蕃 ]

相关推荐
新闻聚焦
猜你喜欢
热门推荐
  • 邢台:面目全非的百余亩耕地

      这里是邢台市平乡县大张庄村东北的耕地,如今已是面目全非,不堪入目,已成大片深坑. 耕地,是人类赖以生存的基本资源......

    07-03    来源:中国民生播报网

    分享
  • 幽香三江荟 翰墨甲骨风中国甲骨文研究泰

      一线聚焦讯(编辑:宋阳)2017年11月18日,中国甲骨文研究泰斗、甲骨文写意书法流派创始人、国学大师、中国著名书法艺术......

    11-19    来源:一线聚焦

    分享
  • 创新商业模式研讨暨“壹號酱香 ”品牌战

      【中国经济新闻联播 北京讯 记者 平克军 王海珠】五月的北京,繁花似景。5月17日,创新商业模式研讨暨壹號酱香品牌战略......

    05-18    来源:中国经济联播网

    分享
  • 男子企图用30万元贿赂民警遭严拒

      nbspnbsp本报讯(通讯员刘领吴锐记者陈奇雄)10月27日,一男子开着奔驰车,携带毒品经过大广高速黄冈北收费站时,被正在执......

    10-29    来源:南方头条网

    分享
  • 湖南益阳建立四级河长责任体系

      nbspnbsp央广网长沙11月1日消息(记者邓文辉 益阳电台记者刘丰、周丹)今年以来,湖南益阳市以改善绿色生态环境为发展目标......

    11-02    来源:南方头条网

    分享
  • 前两年已落实28项“微改革”

      nbspnbsp南方日报讯(记者/罗丽娟)近日,中山“全民献智改革”平台在“中山发布”上线,意味着中山“微改革”活动又新增......

    11-27    来源:南方头条网

    分享
  • 志愿服务收取报酬 最高可处5倍罚款

      nbspnbsp记者 宋金艳 nbspnbsp云南网讯 由国务院颁布的《志愿服务条例》将于12月1日起实施。记者昨日从云南省《志愿服务条例......

    11-30    来源:南方头条网

    分享
  • 南宁:一男子街头“学狗叫” 吓坏路边众

      nbspnbsp 男子街头“学狗叫” 吓坏路边众行人 nbspnbsp 经医院诊治,其非狂犬病人,有精神病史 nbspnbsp男子街头犯病,家属紧抱......

    12-04    来源:南方头条网

    分享
  • 北京市出台《幼儿园责任督学挂牌督导暂

      nbspnbsp 本市出台《幼儿园责任督学挂牌督导暂行办法》 nbspnbsp 责任督学发现重大安全隐患应督促整改落实 nbspnbsp 幼儿园拒绝......

    12-14    来源:南方头条网

    分享
  • 高教社区 磨刀修鞋等便民服务大受欢迎

      nbspnbsp近日,高教社区联合夕阳红服务公司为辖区的老年朋友提供免费便民活动。 nbspnbsp活动开始没多久磨刀点就排起了长长......

    12-18    来源:南方头条网

    分享
返回列表
 
Ctrl+D 将本页面保存为书签,全面了解最新资讯,方便快捷。