奇点、技术失控与技术启示录

回顾过去，我们可以看到历史上各个时期涌现出的众多超越时代的新公司、新产品、新思维和新模式。尽管绝大多数创新产品最终都失败了，但先行者们致力于要解决所在时代各种问题和困难的精神，却影响着下一代的技术进步，并为这些问题的最终解决铺平了道路。

到了今天，我们比以往任何时期都更依赖于技术。而且，随着这种趋势的继续加剧，我们未来使用的技术会比现在更多。

然而，随着对技术依赖性的增加，与之相关的突破点会同时增加，而与之相关的问题也会随之出现。

此外，现代技术总是比相关的监管政策或法律要早几年出现，并且新技术会以迅雷不及掩耳之势在社会蔓延开来。新技术成长与政策监管的时间差会导致很多意想不到的事情发生，当我们的创新不再失败时会发生什么？或者如果一次出现太多失败时，又会发生什么？

1．奇点与失控的技术

技术是把双刃剑。即使随着我们自动化管理自身行为的能力提高，例如物联网、人工智能和大数据等新技术让我们把很多模糊的事情变得数据化、精准化、可预测，但这些技术背后也可能潜伏着很多的错误和风险。并且，新技术应用的程度越深、越广，各种错误发生的潜在可能性也就越大。

近日，著名未来学家托马斯·弗雷（Thomas Frey）对人类技术发展可能引起的灾难，也就是“技术启示”或“技术末世”（techno－apocalypse）进行了预判和分析，并提出了有价值的警示和反思。

目前，大多数关于技术启示的理论倾向于基于某种形式的奇点。技术奇点是一个根据技术发展史总结出的观点，认为未来将要发生一件不可避免的事件：技术发展将会在很短的时间内发生极大的接近于无限的进步。

一般设想技术奇点由超越现今人类并且可以自我进化的机器智能或者其它形式的超级智能的出现所引发。因此，最终技术的发展会完全超乎全人类的理解能力，并将导致人类社会出现不可想象的变化。

20世纪50年代，计算机科学家和物理学家约翰·冯·诺伊曼首次提出了“奇点”的概念。进入到21世纪，美国哲学家雷·库茨维尔的著作《奇点临近》再一次把这一概念推到聚光灯下。与此同时，更多世界级科学家和企业家都关注奇点，并表达了自己的观点。

包括斯蒂芬·霍金、比尔·盖茨和埃隆·马斯克在内的一些行业领先者都对人类未来发出了警告，认为我们需要警惕超越人类智慧的超级智能会摆脱人类控制并摧毁人类。

现代社会注重“进步”这一概念，即通过增益和减少的平衡尺度来扭转有害的方向，控制着事件向我们认为“正确”的方向发展。

对于所有的技术进步，我们首先会聚焦在积极、正面的方向进行审视，但这种技术“进步”方式有时可能会有所帮助，但也可能掩盖某些隐藏的缺点，最终可能会出现“好心办坏事”的局面。

我们现在已经拥有强大的能力去感知和监测变化，诸如降低全球大流感、生态崩溃、核战争、小行星撞击和气候变化等风险。但在托马斯·弗雷看来，人类面临的最大风险是不正常的人类行为，而这种行为越来越受到技术的影响。随着安静的心灵受到贪婪的侵蚀，我们冒着恶化的风险进入到一个生存主义社会。在这个社会中，我们最需要提防的是信任的缺失。

2．未来技术启示的五种场景

托马斯·弗雷预测了未来需要预防的五个技术启示场景，这些场景可以让更多人了解技术失控造成的危害。

极端隐私失败

激进的透明度倡导者向人们宣传构建在数字化模型世界中的幸福生活，并认为如果我们都知道每个人的所有数据，我们将创造出一个更加安全的社会。但是，事实并非如此。

当我们了解邻居的一切时，这意味着我们也知道他们的信用卡号码、银行帐号和密码。当这种情况发生时，我们很快就会失去“拥有东西”的能力，而所有权是现代世界所依据的基本权利。

因此，当剑桥数据公司的分析人员使用Facebook账户浏览人们的个人电脑时，不仅发现了犯罪数据，而且还发现了可窃取的资产和可再分配的个人财富形式。

对于那些试图创造一个新的世界秩序的人来说，很容易想象到通过这种后门方法来重写“人类的所有权代码”，而这势必将导致一个非常混乱和功能失调的世界。