第一财经消息，在2019世界人工智能大会，一款主打“仅需一张照片，出演天下好戏”的换脸App在“科技有道，择善而行”为主题的分论坛上引起了嘉宾们的讨论。

　　ZAO使用AI技术，用户只需要一张正脸照，就可以替换为影视作品或者小视频中的人物，生成以自己为主角的视频片段。这让“戏精”上身的网友们一夜之间刷屏朋友圈。

　　这款App8月11日开始限量内测，最初3000名额就压坏了服务器，23日通过苹果商店审核，30日一夜成名，31日11时，有用户留言称“服务器爆了，根本用不了。”

　　“AI服务器很贵很贵，只希望大家能给五星好评，并撰写评价，谢谢大家。”从ZAO官方助手的新浪微博可知，8月花700万租的服务器，当晚就已经消耗了三分之一，目前安卓用户可以在应用宝、华为、OPPO、vivo市场搜索下载。

　　天眼查信息显示，ZAO所属公司为长沙深度融合网络科技有限公司，法定代表人为陌陌联合创始人兼游戏业务部总裁雷小亮，由海南猫咖网络科技有限公司100%控股。而后者由雷小亮和陌陌董事、总裁及COO王力各持股50%。

　　腾讯研究院助理院长程明霞提到这一App一夜走红时表示，这一方面可以看到人们对AI非常感兴趣，踊跃地上传自己的脸查看效果，另一方面如果仔细查看用户条约也存在着潜在的风险。“很多时候，我们提到的科技向善是指这种，可以用在我们的日常生活、娱乐生活当中的技术到底对我们的生活起到什么样的影响。” 程明霞说。

　　根据ZAO用户协议内容中的必要授权协议：用户上传发布内容后，意味着同意授予ZAO及其关联公司以及ZAO用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”，“包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利”。

　　腾讯优图实验室总经理吴运声表示，这个技术不仅仅是视频、还有声音，其实在半年多以前已经已经有人应用，并做了很多“大家看不到的视频”。在技术落地的过程中，会碰到蛮多不那么善的例子。比如黑灰产可以通过AI技术让你在没有去过的地方出现，做出你没有说过的话的音频，显示出通过AI技术伪造的摄像头录制场景。

　　这也再次提醒人们思考如何探索人与AI的正确相处之道。“在AI的治理方面，以科技向善引领全方位治理，确保AI可知、可控、可用、可靠。这个‘四可’的原则，是我在去年大会上提出的。观察这一年来的情况，我们发现AI 治理的紧迫性越来越高。”腾讯董事会主席兼首席执行官马化腾在2019世界人工智能大会开幕式演讲时说。

　　“随着我做的事情越来越多，我这块也有自己的思考。我自己是一个典型的技术男出身，技术的很多思路是很具体的。我可以做很多具体的事情，但是也会在懵懂的状态下做一些有价值观的事情。科技向善确实应该成为我们的一种底线。我们要不断地去思考：我们技术的底线在什么地方？”吴运声说。

　　英特尔副总裁陈伟也提示了如果一些技术用得不当，可能会造成不良后果。他表示，英特尔除了要做最好的芯片，换专注于物联网和无人驾驶两个领域，希望为数据支撑的将来的世界提供最好的端到云的平台，联手合作伙伴推动社会的进步。英特尔分享了与世界自然基金会合作将人工智能应用于东北虎监测与保护的案例。“技术能决定你走多高，向善能决定你走多远。”

　　科技向善，需要多元的背景融合。以算法歧视为例，一种方法是用更好的算法来解决问题，但是有些问题需要社会、政府、家庭的共同参与。“技术要找到自己的位置。从技术出发，做好选择进行产品设计和服务，是基本的向善之道。” 程明霞说。

　　未来科技如何有所为，有所不为，不仅仅是摆在科技巨头面前的难题，也是每一个普通人共同选择的结果。