姚期智：人工智能目前的算法有较大的脆弱性和不稳定性

10月22日，由科技部和上海市人民政府共同主办的2020浦江创新论坛在上海举行，主题为科技合作与创新共治。图灵奖首位亚裔科学家、中科院院士及美国科学院外籍院士姚期智出席并发表演讲。

姚期智表示，现在这些人工智能看起来非常亮丽，他们有没有一些缺点呢？第一个举的例子，现在的人工智能所能够产生的一些算法有相当大的脆弱和不稳定性。

他指出，同样看一张图片，如果中间稍微改变一点，对于人来说几乎完全没有改变，人工智能做出来的算法是不是也能够像人类的眼睛一样有非常大的稳定性。我现在给大家看一个非常著名的例子，有一个小猪的相片，对于这个相片如果给它一个非常小的杂音，稍微改变一点它的图像，对于人眼来看一个小猪的形象仍然是一个小猪，但是有些人工智能产生的算法里就会突然之间不认识它了，小猪就变成了飞机。像这种现象变得特别严重，有很多研究发现很多人工智能产生的这种图像识别的算法，特别是对于那种如果有人攻击它，有人把图像做一点改变，会造成非常严重的结果。另外这个方面大家常常听到的一个例子，街道上一辆车停的标志，如果特意攻击它，可以找到一个形象让它变成通行无阻。在自动驾驶上可能是非常严重的安全问题。

姚期智还表示，人工智能的算法应用不仅在图像识别、电影推荐这种东西上，现在已经渗透到了社会和产业非常多的方面，包括治理、环境、医药、伦理、教育等等，所以人工智能效率并不是最重要的标准，当然我们希望它的精确度高、效率非常好，但是我们还希望它有一些别的性质，对于社会的标准或者法律上能够接受的。我给大家看一个例子，现在的人工智能所产生的一些算法常常是缺乏可解释性，我用人工智能的方法看到很多数据，我产生了一个算法，我就拿出来用，和商业公司说这个东西效果非常好，这个公司想用这个产品，但是我不能给这个公司提供一个很好的解释，这个产品如果是一个公众产品，不太容易被大家所接受，甚至会有一些法律上的问题。

姚期智举例称，如果用人工智能想要产生对于房地产估价的系统，用人工智能的方法，比如说上海哪一个区很多买卖房子的数据和房子的情况，经过机器学习的演算以后，它产生了一个系统，这个系统就能够拿出来给这个房子非常好的估价，不用那些做房地产的人人力去做。这个算法产生，如果拿出来用，有一个人想卖房子，他先从这个系统得到一个估价，这个估价给他一个结果，比如说200万人民币，卖方的人心里就有一点怀疑，这个价钱会不会低估了，这个系统是不是可信，会不会开发这个系统的人跟我过不去。现在机器学习的算法产生了一个效果很好的算法以后，没有办法解释这个算法到底怎么设计的。可解释性也是现在很多研究的人在努力的方向。我们现在人工智能的算法有很大的优势，但是另一方面有一些缺陷，像一个黑盒子一样，做出来的东西非常神秘，比如说你的产品里有没有一些不符合法律的地方，这个他讲不清楚，有没有歧视哪一类人，也讲不清楚。这种问题很重要，如果用在安全性需要很高要求的时候，这种顾虑会使得大家不能广泛地采用这种系统。这是大家现在非常有兴趣的方向。

　　版权及免责声明：凡本网所属版权作品，转载时须获得授权并注明来源“融道中国”，违者本网将保留追究其相关法律责任的权力。凡转载文章，不代表本网观点和立场。

延伸阅读