火狐直播网页:倡导“AI向善”的发展观

  4月30日~5月1日，2019“AI Everything Summit”峰会在迪拜国际贸易中心召开。会上，来自中国的AI企业代表、腾讯高级执行副总裁刘胜义在主题演讲中阐释了他对“科技向善”和“AI向善”的理解。他提出，在科技突飞猛进的过程中，要建立正确的科技价值观，因为诸如AI等技术在给人类带来便利的同时，也引发哲学、伦理等层面的风险和挑战。

  最近，AI安全、算法歧视等AI伦理线月，欧盟委员会发布正式版《可信赖AI的伦理准则》，提出了实现可信赖人工智能全生命周期的框架，将“尊重基本人权、规章制度、核心原则及价值观”和“在技术上安全可靠，避免因技术不足造成无意伤害”列为“可信赖的人工智能”的必要组成部分。

  峰会当天，刘胜义接受了《中国科学报》的专访。他认为美好的人工智能应该符合四个特征，即可用（Available）、可靠（Reliable）、可知（Comprehensible）、可控（Controllable），组合起来“ARCC”的发音恰似诺亚方舟（Noahs Ark）。

  《中国科学报》：在欧盟发布《可信赖AI的伦理准则》之前，大家已经很关注和AI相关的人文线月，英国上议院人工智能特别委员会发布了重要的公告，提出在发展和应用AI的过程中，有必要把伦理道德放在核心位置。不过，也有一种观点认为，现在的AI还处于弱人工智能阶段，在此阶段谈论伦理问题，会不会对其未来发展形成阻碍？

  刘胜义：当我们谈论创新和规范两者的制衡时，我的观点是，二者不是“这或那”的关系，而是“这和那”的关系。大家或许会担心如果过早制定规矩会扼杀创新，我认为这不一定。适当地定好规则，反而有助于一个有巨大潜能的领域得以更健康的发展，比如AI。以无人驾驶为例，美国为什么能够走在前沿，其中一个原因就在于有法律和规则的存在。

  当然，很多人没弄清楚该有什么原则，形成共识或许很难，但我认为有序的指导原则是必要的。

  《中国科学报》：你觉得科技向善跟实现公司层面的一些商业化目标，这两件事之间有矛盾吗？该如何平衡这种关系？

  刘胜义：古人讲“勿以善小而不为，勿以恶小而为之”，于商业公司而言也是如此。有些企业为生存、为了成长，就利用技术昧着良心做一些事情，这是说不过去的。如果为了商业化目标就“不向善”甚至作恶致人殒命，那么生命值一个亿还是值多少亿？

  我认为企业的可持续发展，不能只看产品层面做了哪些东西，还要去看整个环境；谈可持续发展不是谈企业社会责任，而是企业责任。任何一种文明、任何一个国家、任何一家公司，如果没意识到对人类可持续发展的奉献，那就不足以称之为伟大。

  所以，在AI时代，技术背后的“人”更重要。在人性之善的引导下，“AI向善”将帮助人类提升生活质量，为社会持续健康发展创造新的可能。

  《中国科学报》：AI技术的开发和应用速度很之快，尽管这是我们乐见的，但这也给技术伦理的介入效率提出挑战。鉴于大型AI公司的全球影响力和责任，你认为建立什么样的制度对于确保AI安全和不具歧视性至关重要？

  刘胜义：建立制度的驱动因素是什么？对AI的担心。就像史蒂芬霍金说的，“AI可能是人类文明史上最伟大的事件，它要么是人类历史上最好的事，要么是最糟的”。

  当然，大家希望它成为“最好的事”。不过，“制度”可能会让有些人很难“呼吸”，那么我们能不能有一个共识？比如我们觉得AI需要满足四点，首先它必须是普遍可用的，即不会造成某种信息鸿沟，成为某些人独有的手段。其二，它必须是可信的或可靠的，就像所有国家的法律都是为人而定的，AI也必须对人可靠。其三，它须是可知的。最后，它应是可控的。

  在这四项原则之下谈AI向善，更多行业人士会认同这四项准则，“制度”就自然形成了。

  刘胜义：今年初，联合国教科文组织（UNESCO）给腾讯颁发了一个名为“数字技术增强残疾人权能奖”的奖项，表彰腾讯公司对残疾人的贡献。在那次大会上，我在发言中提到“科技如何向善是AI时代对人类最重大的挑战，也是人类审视自身价值观的最大机遇”；而几乎同时，Pony（腾讯首席执行官马化腾）在全国两会上提出了《关于加强科技伦理建设，践行科技向善理念的建议》的议案，建议发挥科技伦理在科学技术创新中的调节作用，促使科技活动朝着更利于人类的方向发展。我们在此之前根本就没有就此沟通过，真的是不谋而合的共识。

  上个月，腾讯总办团队开了一个讨论会，花了长达四个小时讨论腾讯的灵魂是什么。Pony说腾讯创立时的愿景就是做一家最值得尊敬的网络公司。腾讯总裁刘炽平说，我们的使命是如何善用科技的力量，让人类生活品质更好。有人提议，把科技向善大胆地植入到腾讯的使命和愿景里。

  《中国科学报》：腾讯提出“科技向善”“AI向善”，好像立了一个很高的“flag”，是一件风险很高的事情。腾讯是否担心会因此成为一个靶子？

  刘胜义：我们真的认为这样一个时间段再不谈科技向善就不行了。再过20年，管理岗位上一定会有新鲜血液。但是给这些新鲜血液的方向是什么？对我们而言，倡导科技向善恰是职责所在。我们大家都认为已经到了此阶段，如果今天腾讯人不去相信科技向善，没有以“AI向善”去引导刚刚加入公司的22岁的年轻人，那就很麻烦了。