■本报首席记者 徐晶卉
      
       你知道用户“被遗忘权”吗？这是《通用数据保护条例》在2016年修正后增加的新型权利——数据主体有要求数据控制者删除关于其个人数据的权利。
      
       作为用户隐私权的一部分，要实现“被遗忘权”，可谓“牵一发而动全身”：在人工智能（AI）的世界中，企业、机构获得消费者信息以得到算法模型，删除信息则意味着要精准算出某些数据的影响，并剔除相关影响，这是一道难题。
      
       难题再难，也要有解，因为它开始指向人工智能发展与伦理之间关系的更高阶层级。当前，人工智能展现出巨大变革的潜力，但也逐渐暴露出算法安全、数据歧视、数据滥用等诸多问题，引发人们对人工智能信任的思考。在2021世界人工智能大会上，可信人工智能（“可信AI”）是很多专家的前沿思考方向，它将成为人类释放人工智能潜能的关键基础。
      
       为什么今天要讨论“可信AI”
      
       “可信AI”是一个新名词，国内对其的认知只有3年。但人工智能发展至今已经有60多年，为何直到第三次发展浪潮，全球才开始大规模讨论“可信AI”？京东探索研究院院长陶大程认为，前两次AI浪潮中，人工智能的落地应用较少，而现阶段AI从理论走向场景应用，并被应用到无人驾驶、医疗等关键领域中，就会带来相应的问题，触发探讨AI的可信需求。
      
       “发展‘可信AI’，推动人工智能的透明可视、安全可控、多元包容已成为全球共识，也是未来人工智能健康发展的必由之路。”中国信息通信研究院院长余晓晖做过统计，2020年，关于“可信AI”的研究论文数量相比2017年增长了近5倍，这也反映出全球产业界、政府、学术界对人工智能可信这个问题的思考与担心，也包括对未来发展的设计。
      
       为什么“可信AI”需要整体框架
      
       本届世界人工智能大会上，中国信息通信研究院联合京东探索研究院发布了国内首本《可信人工智能白皮书》，首次系统提出可信人工智能全景框架。《白皮书》认为， “可信AI”已经不再仅仅局限于对人工智能技术、产品和服务本身状态的界定，而是逐步扩展至一套体系化的方法论，对于产业界进一步落实人工智能伦理及治理要求具有重要意义。
      
       “我们在探讨过程中，把‘可信AI’概括为四个主要的性能，包括稳定性、可解释性、公平性、隐私保护，以此构建一套整体框架。”陶大程说。
      
       值得一提的是，“可信AI”的每个分支看起来都已研究了很长时间，但把它们整合起来，却有自相矛盾的可能。京东探索研究院算法科学家何凤翔坦言，“如果我们对这四个方面分而治之，就会产生冲突”。
      
       “可信AI”发展处于哪个阶段
      
       “可信AI”从理论到实践，在全球范围内都处于早期阶段。可喜的是，中国的人工智能行业在“可信AI”领域的觉醒速度，与全球几乎同步。
      
       2018年， “可信AI”刚刚被提出之际，在人工智能模型算法中融入经济学“博弈理论”后，业界全新技术——“智能对抗”被开发了出来，即通过结合AI和博弈对抗，让机器自动且实时、动态地对自身系统进行安全性攻击，目前，这一技术已应用于金融风控领域。
      
       上海正全面推进城市数字化转型，人工智能赋能数字化转型过程也是推动AI技术卓越、安全、可信的过程。市经济信息化委主任吴金城透露，上海将在数字化转型实践中，加快完善人工智能治理规范，探索形成“上海准则”，包括提升AI技术安全特性和数据保护能力、以制度保障推动“可信AI”发展等。