王东明：AI安全的机遇与挑战

人工智能威胁论在网络上长久不衰，AI是否安全可控，一直是人们关心的话题。在此次安全峰会上，欧洲科学院院士王东明带来的主题思考《AI人工智能：安全的机遇与挑战》，从人工智能和网络安全的关系出发，理性的分析人工智能带来的机遇与挑战。

人工智能使生活变得安全了吗？

与20年前相比，我们现在更安全了吗？我们信息更安全了吗？我们网络更安全了吗？我们存在银行里面的钱更安全了吗？好像没有。我们仍然被网络病毒、垃圾邮件、虚假广告、商业欺诈所困扰。

人工智能来了，我们会更安全吗？还是更威胁？深度机器学习与智能搜索是否会挑战我们现在的安全机制？欺诈会不会更加智能，攻击能否穿越万物互联的时空？虚拟语音合成、关联知识推理、超级群体智能可否让机器博古通今，招摇撞骗？

我们为什么需要人工智能？

在人类文明发展几千年历史过程中，我们拥有大量的数据，大量的信息，留到现在最重要的是什么？是知识。是我们把握这个社会资源的能力，所以是智能，没有智能我们社会就会变得苍白。

什么是人工智能？

人工智能是数学科学、信息科学与其他应用科学的交叉学科，主要研究设计构造应用可以模仿人类智能的机器，包括硬件设备和软件系统。

人工智能的发展从上世纪50年代开始，已经有60多年的历史。机器翻译、机器博弈、机器定理证明都是人工智能里面最经典的研究课题，因为这些都是需要很高的智能。

1959年美籍华人王浩先生在704计算机用9分钟时间，证明了著名的《数学原理》中的百余条数理逻辑定理，成为人工智能里程碑。

1976年著名的四定理借助计算机获得证明，震撼世界。

1978年吴文俊先生提出几何定理机器证明的高效方法。

1990－2010年两十年平稳发展，人工智能现在重新兴旺就是阿尔法狗诞生在2010年。

2015年对与国家来说人工智能非常不平凡一年，2015年7月人工智能写入国务院《关于积极推进黄连＋行动的指导意见》。

2016年3月人工智能写入十三五规划纲要。

2016年5月国家发改委等四部委发布互联网＋人工智能三年行动方案。

2018年10月科技部创新2030重大项目设立人工智能专项。

新一代人工智能，基于大数据、云平台、网络并行计算、智能芯片等信息技术和基础设施的建设为人工智能的进一步发展提供了保障。深度学习的理论和方法，信息化的应用需求，国家和企业的高投入为人工智能发展注入了强劲的动力，所以人工智能现在处在历史性的发展机遇。

人工智能与网络安全是什么关系？

网络信息安全，信息网络的广泛使用使其安全性，包括两个方面，Safety／secunity。这也是与人们生活、工作密切相关而又难以解决的问题。对网络高度依赖使得人们对其稳定性、可靠性、垄断性，对信息存储的传输和安全性都有极高的要求。从某种意义上讲，我们的生活，我们的工作并未随着技术的进步和网络普及而得到很大的改善。

但在某种意义上趋于恶化的趋势。隐私信息泄露、银行卡盗刷、商业网络欺诈，远程病毒攻击不停在扰乱我们的生活。以前没有病毒，后来有病毒，以前没有欺诈，现在有欺诈，所以很多问题值得思考和解决。

通过保障网络安全，增强网络系统的物理性能和运行可靠性，需要提高抗攻击能力，要使用区块链等新技术记录多方参与的信息活动，使交易信息部得单方面修改，信息价值可以通过技术手段进行转移。网络安全教育尤为重要，然后是法制和网络技术，标准化、规范化有助于改善网络的安全性。

人工智能与安全的关系是相互作用，相互影响。信息网络安全是人工智能广泛应用的基本保障，没有数据，没有信息，没有安全，就没法来讨论人工智能。另一方面，人工智能方法可以用于网络安全隐患的检测和网络安全机制的建立、优化和分析。