阿里联合清华探索AI与安全关键技术

小学生用照片攻破丰巢人脸识别系统、自动驾驶汽车失控撞人、AI换脸让你一秒成为黄片主角……随着人工智能技术的快速发展、普及和应用，随之而来的安全、伦理等问题也引发普遍担忧。

“人工智能安全作为人工智能研究和产业化应用的重要组成部分，应推动政府、学术界和产业界进行更加深度和广泛的合作，对人工智能的安全进行系统布局，”12月8日，在清华大学举办的AI与安全研讨会上，清华大学副校长、中科院院士薛其坤表示：“这一领域是快速发展的，要在关键时刻把握正确的方向，抓住关键的技术，相信通过这次AI与安全会议，能取得新的进展和收获。“

据悉，研讨会由清华大学、阿里安全、北京智源人工智能研究院联合举办，邀请高校、互联网公司、政府部门等多方科研人员参与，旨在提升各界对于AI与安全的重视程度，合作产出更多安全AI成果。

“在2019年天猫双11当天，我们的安全AI大脑完成风险防控388亿次，99%的黄牛被系统准确拦截，”阿里巴巴集团安全技术总经理钱磊指出，阿里具备当前产业界最复杂的商业场景，清华拥有极强的技术和研发能力，未来双方通过人才、项目等方面加强产学研合作，将是一个非常好的探索和命题。

清华大学计算机系党委书记刘奕群表示，阿里与清华一直合作密切，这次会议将促进各方更加深入的合作，推动我国人工智能领域的安全管理体系的建立，也将在国际人工智能的安全领域更好发出中国的声音。

发展可信、可解释的安全AI成共识

人工智能发展的快速和重要性已经不言而喻。2019年，美国、欧洲、日本等各国均出台各类促进人工智能发展的政策和国家战略；公开数据显示，2019年，中国人工智能相关公司总数超过2500家，到2020年，中国人工智能产业规模将接近500亿元。

“各类场景中，安防、医疗应用较为广泛，最近上海地铁一个摄像头抓到了潜逃20年的杀人犯，就是典型应用。”国家工业信息安全发展中心副主任李新社在报告中指出，但人工智能当前面临数据、算法、网络、信息、伦理等多方面的安全问题，“建立可信的人工智能将成为发展的重要考量。”

早在1987年就带领清华成立全国第一个以人工智能命名的国家重点实验室，见证、参与中国第一代、第二代人工智能技术发展，清华大学人工智能研究院院长、中科院院士张钹在主旨报告中强调，必须发展安全、可靠、可信的第三代人工智能，这样才有可能使人工智能技术得到安全广泛的应用。而发展技术的关键在于基础研究，必须在基础研究上进行重点投入和突破。

（清华大学人工智能研究院院长、中科院院士张钹在会议中做主旨报告）

“一张鸟的照片，加一点噪声，就能让AI识别为一只老虎，”张钹院士表示，人工智能的安全问题源于深度学习技术的底层缺陷，采用非常简单的神经网络系统，用概率统计的方法来提取出低层次的特征，而正确的方法应该是像人类一样去提取高层次的语义特征，“我们正在往这个方向努力，但现实情况是，没有永远安全的系统，也不要指望有永远安全的人工智能系统，只有加强基础研究，才有前瞻性的判断，及时采取措施。”

中国科学院院士、大数据算法与分析技术国家工程实验室主任徐宗本在主旨报告中也重点强调：人工智能的未来发展，特别是在医疗等关键领域的应用技术，需要充分利用数学等工具加强基础研究，突破精确性瓶颈，打破数据孤岛，实现小样本和可解释的深度学习。

AI与安全发展相辅相成

针对AI与安全的众多技术领域问题，中国科学技术大学网络空间安全学院副院长张卫明、上海交通大学网络空间安全技术研究院副院长伍军、西安交通大学网络空间安全副院长沈超、西交利物浦大学电气与电子工程系教授黄开竹、清华大学副教授张超等人在会上做了精彩的发言，并从各个角度提供建议，比如防止AI的滥用和误用、加强相关标准制定、加强人才培养、进一步深化人工智能与各个实体产业的融合等。

“当业界还在担忧AI安全性的问题，我们已经在阿里的安全场景中全面使用AI技术，安全本身的攻防对抗属性下，AI也在进化，”钱磊表示，阿里安全通过在打击假货、营商环境治理、网络安全、数据安全、新零售安全等领域的AI应用，希望打造出更安全、更可信、可解释的安全AI。

（阿里巴巴集团安全技术总经理钱磊在会议中分享阿里用AI解决安全问题的实践）

钱磊在现场公布了一组安全AI的防控数据：在打击假货方面，96%的疑似侵权链接一上线就被封杀、96%的知识产权投诉在24小时内被处理；在保障商家经营方面，每天应对千万级风险订单识别和判断，累计拦截上百万恶评攻击。

徐宗本院士点评称，AI打假提供了更多机器学习、大数据分析，对真假甄别意义重大，AI打假是数字技术、人工智能的应用场景，“阿里在这方面做得不错。”

冰冻三尺非一日之寒。阿里巴巴集团安全部成立于2009年，最早期为专家运营阶段，即通过离线数据分析研判，修复产品漏洞，“一直到2013年，基本都是这种人肉模式，但随着阿里业务体系不断扩大，如果每个业务都要两三个专家去分析，基本是不可能的，后面我们就进入数据智能时代。”钱磊表示，这一时期的特点是通过大量的信息，建立完善的安全体系、指标体系，通过人去解读指标变化，再变成规则落地、线上防控，“人依然是主导。”

“安全风控本质是一个识别、判定和处置的过程，我们尝试通过算法来提效，并在一些流量业务中使用，效果不错，从2018年开始，全面转向安全AI时代，”钱磊认为，安全能力的高低强弱和在场景中能使用多少数据，使用数据的水平，是正相关的，而AI技术在安全领域的大面积应用，将大大提升安全业务使用数据的水平，“安全的对抗性，又为AI技术的发展提供了丰富的多变的场景，推动AI技术的快速发展，两者相辅相成。”

2019年6月，阿里联合清华大学发起安全AI挑战者计划，分别进行了人脸识别、图像分类等场景的对抗样本测试，共计2000多名队伍报名，此次会议中也对前五名获奖队伍进行了现场颁奖。

“我们希望与更多方合作，在AI的可解释性、安全性上，在更多应用场景中，产出更多的成果，来推动人工智能和安全产业的发展。”钱磊表示。