取到真经之前，AI还需要一个“紧箍咒”

吴红梅 科技日报记者 王春

特斯拉汽车事故风波仍未停歇，人脸识别技术引发的隐私泄露问题尚待解决，人工智能落地产品责任权属问题依旧存在巨大争议。今天，人工智能的发展已经不仅仅聚焦于技术进步上，与之相随的是治理形势的日益严峻。 人工智能在追求卓越的同时如何兼顾伦理和情感？如何更加安全友好？如何与人类和谐共生而不是替代？7月10日下午，第二届世界人工智能治理主题论坛在线上召开，以“发展负责人的人工智能”为主题，数十位国内外专家、企业代表齐聚，从理论与实践的角度探讨了如何发展负责任的人工智能，并在大会上成立了“上海国家新一代人工智能创新发展试验区专家咨询委员会治理工作组”，旨在使人工智能的治理“为之于未有，治之于未乱”。

吴红梅 科技日报记者 王春

特斯拉汽车事故风波仍未停歇，人脸识别技术引发的隐私泄露问题尚待解决，人工智能落地产品责任权属问题依旧存在巨大争议。今天，人工智能的发展已经不仅仅聚焦于技术进步上，与之相随的是治理形势的日益严峻。 人工智能在追求卓越的同时如何兼顾伦理和情感？如何更加安全友好？如何与人类和谐共生而不是替代？7月10日下午，第二届世界人工智能治理主题论坛在线上召开，以“发展负责人的人工智能”为主题，数十位国内外专家、企业代表齐聚，从理论与实践的角度探讨了如何发展负责任的人工智能，并在大会上成立了“上海国家新一代人工智能创新发展试验区专家咨询委员会治理工作组”，旨在使人工智能的治理“为之于未有，治之于未乱”。

论坛现场   主办方供图

人工智能并非万能，其中存在许多问题需要通过治理来解决。

图灵奖获得者John Hopcroft在大会演讲时谈到，“AI将会改变我们生活的诸多方面，且随着AI的普及，大量社会问题也将随之浮现。” 此次治理论坛上提及最多的当属人脸识别技术。如今人脸识别技术已经渗透到了人们生活中的方方面面，人脸识别门禁、人脸识别考勤、人脸识别访客登记、人脸识别验证等一系列方案应用于各行业领域。但是，人脸识别技术在给人们带来极大便利的同时，也不免带来了许多人的担忧。2019年10月，杭州一位消费者因当地野生动物园要求消费者刷脸入园，将动物园告上法庭，被称为“中国人脸识别第一案”。人脸识别的纷争在无形中由无声进入到了有声阶段。 人脸识别技术是否会泄露用户隐私，有何制度保障用户的肖像权，人脸识别技术从研发到应用的整个过程是否能够做到公开、公正、透明？旷世科技为人工智能的治理工作提供了可供借鉴的方案。 旷视是全球最早一批探索人工智能商业化的拓荒者，从早期单一的人脸识别应用到城市中各场景的智能改造，旷视的核心产品和软硬一体的全栈解决方案已经得到了全球数十万开发者和上千家行业客户的验证。旷世的创始人之一兼首席执行官印奇开发出世界最顶尖的人脸识别技术，带领旷视科技在各项国际人工智能顶级竞赛中多次击败谷歌、Facebook、微软等巨头。如今，作为人工智能领域的独角兽企业之一，旷世已经不仅仅停留在技术的研发上，而是把目光聚焦到人工智能治理上来。 旷世在去年7月份成立了自己的人工智能治理委员会，并且在治理委员会下面设立了人工智能研究院，是中国为数不多的几个在人工智能治理方面采取这一措施的公司之一。印奇在大会上表示，旷视对待人工智能治理的态度是“不缺席，不对立，行胜于言。”作为人工智能领域的标杆企业，旷世在治理方面所作的努力目前正在辐射整个行业。为充分发挥行业引领作用，旷视曾先后参与19项人工智能相关的国家及行业标准制定，结合自身经验与行业伙伴共谋技术发展。 人工智能的治理工作并不能仅靠企业的努力。发展负责任的人工智能，要寻求“技术+制度”双轮驱动的治理综合解决方案，探寻人工智能治理新模式。印奇认为，“技术的问题就要通过技术来解决。” 中国科学院院士何积丰表示，“数据安全和算法安全是我们关注的问题，我们对此提出了七大对策，包括算法的可解释性，隐私保护，公平建模，可信验证，主动防御，伦理法律和系统伦理等。”这为人工智能治理提供了很好的技术研究方向。 但是构建一定的法律规范、伦理制度也是人工智能治理必不可少的环节。2019年国家新一代人工智能治理专业委员会发布了“新一代人工智能治理原则”，发展负责任的人工智能。此次论坛成立了人工智能治理工作组，旨在负责加强人工智能治理相关研究，促进国际交流参与全球人工智能治理合作，就人工智能立法、伦理规范、标准评估等提出建议，推进人工智能治理原则落到实处。这一系列举措，都表明了我国正在制度层面为人工智能治理开辟出一个更好的环境。正如复旦大学应用伦理学研究中心主任王国豫所说，“要负责任地发展人工智能，首先要使得我们具有这样的负责任的环境，而技术仅仅是其中的一个要素，而且绝对不是唯一的要素。”  由此可见，人工智能在取到“真经”之前，还得靠治理这个“紧箍咒”给他规范发展方向、路径以及价值取向等，以保证其真正做到技术向善，造福于民。