人工智能迈向可信AI时代，如何确保人工智能的安全、可信和公平是业内关注的重点。9月27日，世界互联网大会乌镇峰会的人工智能论坛上，可信AI该如何发展备受关注。

南都记者专访参加该论坛的京东集团副总裁、京东人工智能研究院副院长梅涛，他表示，京东更关注如何定义可信AI、使其可计算化和落地等。基于对可信AI的理解，可从稳定性、可解释性、隐私保护、公平性四个方面进行落地，让已有产品更加“可信”。

具体来说，梅涛认为，稳定性即任何AI产品、系统能抵御外界的恶意攻击，保证产品平稳运行；可解释性是指人工智能做出的决策可被人类所解释和理解，而非一个黑盒子。隐私保护方面，人工智能的算法承担着保护个人和群体数据隐私的作用；最后，新技术诞生后，可信人工智让所有人无差别地享受技术带来的红利。

“从这四个角度来说，如果能够达到很高水平，可信人工智能的落地性会非常好。京东也秉持着这四个方面，为产品加入很多的可信人工智能的因素。”梅涛提到，可信AI处于起步阶段，京东作为一家新型实体企业，更多地考虑如何将可信人工智能落地。

以制造业为例，京东在落地过程中发现，质检过程中检测出来的瑕疵样品量较小，这就造成人工智能落地时出现较多问题。对此，京东打造基于0样本或者小样的学习机制，使得人工智能落地时模型具有更好的泛化性。同时，借助京东已有的隐私训练平台，可保证工厂数据不外泄。

可信人工智能技术是帮助人工智能实现可信的基础，未来如何推动可信人工智能的进一步发展？梅涛表示，如果构建一个政产学研用一体、协同化的可信AI新机制，在未来十年，可信人工智能会成为被全社会接受的人工智能的新基建。

值得关注的是，今年的世界互联网大会上，共同富裕、助力中小企业是大佬们提及的关键词。对于技术如何助力共同富裕，梅涛提到，大企业做好自己事情的同时要帮助中小企业，如搭建业务类的平台，并做到开源、开放以实现资源共享。

采写：南都记者 黄培 马嘉璐

编辑：甄芹

更多报道请看专题：2021世界互联网大会乌镇峰会

对这篇文章有想法？跟我聊聊吧

黄培

甄芹