季卫东出席全球十大AI治理事件专家研讨会 与旷视科技共论AI治理

近日，“2020全球十大人工智能治理事件专家内部研讨会”成功举办。上海交通大学文科资深教授、中国法与社会研究院院长，教育部特聘教授季卫东出席研讨会，与北京大学光华管理学院金融学副教授卢瑞昌等专家，与旷视共同探讨了人工智能治理有关问题。

图：旷视科技、人民智库“2020全球十大人工智能治理事件专家内部研讨会”举办

在季卫东教授看来，人工智能治理是技术和运用发展到一定阶段的必然结果，更是对AI研究、开发、生产和运用过程中出现的公共安全、道德伦理等问题加以规范和治理的过程，要从产业发展与人工智能治理之间的关系、国际规则博弈、人工智能治理如何“法治”三个方面加以思考。

在产业发展与人工智能治理的关系方面，AI通过科技产业的发展带来经济效益，企业担负着推动AI产业可持续发展的重任，与此同时，为防止企业面对过重的责任负荷，应适当地考虑企业的责任有限化等问题，以避免对人工智能管理过严。“和产业、经济利益相对的是现在比较缺乏的人工智能治理，为解决现实问题应特别强调个人权利、信息安全、隐私等，在我们评价维度中表现为公平正义及对政府行为的法律制约。”季卫东教授说道，“人工智能治理中应注意这样一对关系，在发展产业的同时保障权利、实现公平，不应顾此失彼。”

从国际规则博弈角度而言，人工智能治理需要注意数据安全、面部识别技术应用等问题。季卫东教授表示，个人隐私保护与产业发展的对立统一关系是治理需要考虑的范畴，如何准确传达加强数据治理、防治人工智能风险的意图，如何切实完善制度设计非常重要。此外，人工智能“黑箱化”也是一个重要的难题：人工智能的预测能力越强、功能越强，越容易导致算法黑箱问题，如果不能恰当地做到算法可解释、透明化，就会产生连锁反应，使人工智能治理机制瓦解，人工智能治理要从法律的角度来认识。

但人工智能治理过于地强调法治，往往会对AI技术开发的限制过分严苛，对人工智能产业的发展与探索造成一定阻碍，需要辩证地看待这一问题，实现“软法”（道德）与“硬法”相结合。据季卫东教授介绍，2020全球十大人工智能治理事件评选就更加注重“软硬结合”，从案例中可以看到，当前海外已有企业从道德入手制定企业内部规则或是技术操作规则。

图：旷视人工智能治理研究院、人民智库发起评选2020年度全球十大人工智能治理事件

“2020年度全球十大人工智能治理事件”评选由旷视人工智能治理研究院、权威研究机构人民智库成立的联合课题组共同发起，从AI与公众福祉、AI与公平正义、AI政府（企业）治理、AI系统安全性与数据隐私安全四个主要维度出发，回顾并分析过去一年中最具理论价值、实践价值、新闻价值、以及研究价值的人工智能大事，希望以此推动多方对话、多元治理。

　　版权及免责声明：凡本网所属版权作品，转载时须获得授权并注明来源“融道中国”，违者本网将保留追究其相关法律责任的权力。凡转载文章，不代表本网观点和立场。

延伸阅读