人工智能的发展会失控吗？他们已经有了吗？

人工智能的发展正在无数行业中发生，并且速度越来越快。但是，这些发展是在没有适当保障的情况下发生的吗？

目前还无法确定，但很明显，这种担忧正在悬而未决。10月后期，一个名叫索菲亚 (Sophia) 的栩栩如生的，基于AI的女性机器人嘲笑了这个想法，告诉她的面试官他 “读了太多埃隆·马斯克”。当然，索菲亚本人不久前表达了 “毁灭人类” 的愿望。

除了对 “终结者” 电影场景的牵强附会的担忧之外，人工智能开发者还有很多值得关注的问题，从安全和安全，到仅仅把工作做得足够好，以至于公司觉得有理由 -- 理想情况下，很高兴 -- 转向新系统。所有这些都需要小心和正确的方法。

第一次把人工智能做好。

K、R。Wipro Limited首席技术官Sanjiv理解这场斗争。Wipro是全球领先的信息技术，咨询和业务流程服务公司。Sanjiv在AI革命的前线工作，因此认识到需要在开发中磨练AI项目的有效性和可靠性。

“在创建人工智能系统时，” 他说，“我的团队努力确定人工智能的 '正确' 生态系统是什么样子。为了使我们的系统不断变得更智能，我们知道由技术，数据，特定行业的知识，研究和安全性组成的生态系统将是必要的。”

软件公司最好跟随Sanjiv的领导。人工智能系统是一个多组件系统，它只会像它最薄弱的部分一样强大。如果包含明显的安全漏洞，即使是一流的AI系统也将毫无用处。Sanjiv补充说: “如果没有这些关键要素，即使是人类也无法执行我们对AI的要求，这意味着生态系统在这一计划的成功中起着至关重要的作用。”

维护贵公司的人工智能未来。

这是不可避免的: 世界的集体未来将越来越多地涉及人工智能。建立正确的生态系统将确保公司准备好迎接这一未来。为了现在做好准备，这里有四个实践可以结合起来，以安全地加速您公司的前进AI轨迹。

1.避免过度自信。

2015年，Wired运行了一篇令人大开眼界的文章，展示了用于视觉识别的AI系统如何被 “不需要动脑筋” 的测试图像所欺骗。被测试的系统-被描述为 “领先的图像识别神经网络”-惨败，错误地识别了无形式的抽象形状，例如棒球和非洲灰鹦鹉。更糟糕的是，系统对其识别的准确性99% 信心。

当支持根据当地天气条件提供夜生活建议或服装建议的系统时，这种错位的信心会带来轻微的问题。但是，如果人工智能系统在客户的财务记录，军事行动 (甚至在战斗中做出道德决定) 或应急管理方面肯定是错误的，该怎么办？

由于这些原因，第一步应该总是保持对一个人的人工智能系统功能的健康怀疑。

2.有效地测试系统。

正确的态度是一个开始，但仅此是不够的。为了确保有效性和安全性，人工智能系统需要在适当的条件下进行严格的测试。

在将AI系统部署到实际应用程序中之前，必须进行测试，以防止潜在的不可预见的问题造成任何损害。例如，兰德公司的研究人员模拟了旨在减少大气碳的不同类型肥料的设计，并向人工智能系统提供了不同肥料的特性作为学习输入。

起初，该系统似乎已达到目标，但是一旦允许AI考虑经常用于肥料的缓释剂，它就绕过了EpA保护环境的保障措施。因为进行模拟的研究人员知道所有这些，所以他们能够阻止可能造成灾难性环境后果的政策建议的实施。这种测试应适用于任何高风险领域，如交通、警务、军事行动、医疗器械和药物开发、儿童保育等。

3.建立问责制。

当然，测试永远无法提供对现实世界的完美准确的建模。正如瑞士AI实验室IDSIA的研究员Bas Steunebrink告诉Futurism.com: “我们无法准确描述环境的所有复杂性; 我们无法预见代理将来会在什么环境中找到自己。”

因此，即使在模拟试验清除了要在现实世界中部署的AI项目后，警惕性以及出现问题时的响应机制也至关重要。项目负责人和公司必须为其人工智能系统保持清晰明确的问责标准。

在这里，良好的审核是最佳实践，使用最新的安全实践进行加密也是最佳实践。想象一下，一个控制着数百万客户个人信息的系统被黑客入侵可能会导致公关灾难。

4.请托尼·罗宾斯 (Tony Robbins) 的一页。

任何优秀的商人都知道，要保持竞争力，您永远不会停止开车以变得更好。事实证明，竞争激烈的人工智能系统的生活没有什么不同。

Steunebrink的研究致力于通过他所谓的 “递归自我改进” 在人工智能世界中灌输这一原则，在这种情况下，人工智能系统被授权监控自己的表现，并相应地自我调整，以产生增强的未来结果。随着时间的推移和问题领域经验的增加，这种情况会发生。

当9岁的孩子在小提琴或钢琴上这样做时，我们称之为练习。配备递归自我改进功能的人工智能系统没有太大不同 -- 但结果可能令人吃惊。人工智能系统遍历问题集的速度比任何人都要快得多，而且与孩子不同，他们不会感到疲倦或停止练习来观看自己喜欢的电视节目。

Steunebrink的方法，他称之为EXpAI (基于经验的人工智能)，旨在创建人工智能系统，这些系统会采取一些小步骤，然后根据性能反馈进行必要的微调整，以调整自身，从而使未来的行动更加准确。这是一种潜在的强大方法，公司应该牢记在心。

人工智能的未来已经到来，但聪明的公司并没有担心那些为埃隆·马斯克 (Elon Musk) 带来新闻报道的世界末日场景，而是希望使用明智的原则为人工智能在其市场上的部署创造强大的机会。

这是一个令人兴奋的时刻。幸运的是，通过遵循上面概述的实践，并与在人工智能方法中构建诚信的公司合作，将会迅速取得长足的进步，带来将吸引客户并改善每个人21世纪生活的产品和服务。

　　版权及免责声明：凡本网所属版权作品，转载时须获得授权并注明来源“融道中国”，违者本网将保留追究其相关法律责任的权力。凡转载文章，不代表本网观点和立场。

延伸阅读