AI时代可能遇到的伦理问题，你做好准备了吗？

作者：小岩

编辑：彩云

图片来源：由无界 AI生成

曾经如日中天的互联网行业如今身处“寒冬”之中，还在努力寻找自救的方式。但人们的注意力总是有限的，大家早已不再关注互联网赛道，取而代之的，是芯片制造，人工智能等新兴赛道。特别是人工智能，在今年因为ChatGPT的强势出圈而成为了备受瞩目的当红炸子鸡。

ChatGPT的出现让我们意识到，AI技术已经取得了突破性的进展，并且，这种爆炸式的发展节奏还在继续。在这种情况下，比肩人类智慧的通用人工智能很快就能被培养出来，相关的伦理问题也将应运而生。

“AI会对未来的两性关系产生怎样的影响？家庭概念会就此消失吗？”

如果你对通用人工智能的形象没有概念，可以去参考电影中出现过的形象，诸如《黑客帝国》中的Matrix，《流浪地球》里的MOSS，《间客》中的“老东西”等，都是通用人工智能的典型形象。

一旦这些形象出现在现实生活中，整个社会都会出现颠覆性的改变，建立一套全新的行为规范就会成为十分迫切的事情。譬如如何在法律和道德上定义AI，如何看待人类与AI之间的关系等，都是亟待解决的问题。更重要的是，随着AI发展的越来越智能，拥有越来越接近人类的思考方式，它很可能对人类的情感方面产生冲击。一旦触及到情感，就意味着AI对人类的影响已经到了相当深远的程度。毕竟，爱与家庭，通常被认为是传统社会人文情感的核心领域，是属于人类独有的私隐问题。

就在最近，科幻作家韩松提出了一个发人深省的问题：人工智能和元宇宙的出现，是否会对两性关系产生影响？家庭概念是否会因此而消失？换句话说，AI有可能触达到人类的情感吗？甚至与人类组建成家庭？

在今年早些时候，马斯克表示将推出“猫女机器人”。光看这个名字，我们就知道，马斯克是想推出针对男性的“完美伴侣”的形象，从而促进男性消费。据说这种机器人拥有猫女的性感外表，可以包揽家务，打理主人的生活。

当然，马斯克想要做的内容，还是属于AI设备的范畴，是没有人格的商品，而不是与人对等的智慧生命。但如果这些商品突破了图灵极限，产生自我意识，那就很可能变成在智慧上远远超越人类的“新物种”，自然会参与到人类的爱情和家庭中去。

日漫和日本轻小说都有过类似的描写，他们习惯于将其设定为“机器人女友”，而故事结构大都是“宅男+软妹机器人女友”的设定。故事桥段大同小异，都是机器人在与人类的相处中逐渐学习，懂得了人类的情感，最后在与男主的羁绊中完成了“成为人”的进化。

可仔细分析，我们会发现这一类的设定存在明显的bug。人类去幻想与机器人“相恋”的故事，从本质上说，是典型的人类中心主义叙事，是人类的幻想。超级AI之所以称之为超级AI，是因为它拥有远超人类的智慧。在默认人类智慧极限不变，或很难快速提升的情况下，人类是无法预判超级AI的行为的。

AI是否会取代人类？针对这个问题，要早做预防。

人类与AI未来是否有可能产生情感联动，这个问题我们无法给出肯定的答复。但有一点是一定的：对于AI融入我们生活后可能产生的问题，危机和威胁，我们务必要早做打算。

美国科幻小说黄金时代的代表人物艾萨克·阿西莫夫曾经在20世纪40年代提出了“机器人3定律”。 

什么是“机器人3定律”？ 

第一定律是机器人不得伤害人类个体，或者目睹人类个体遭遇危险却袖手旁观；第二定律是机器人必须服从人类给予它的命令，除非这一命令与第一定律相矛盾；第三定律是在不违反第一定律和第二定律的前提下，机器人要尽可能地确保自己的生存。

80多年前阿西莫夫提出的“机器人3定律”，大概率是基于自己天马行空的想象。但如今，AI的表现令人惊讶，早已不再是昔日文学作品里的幻想了，我们不得不认真的思考起“机器人3定律”的可行性了。

对此，人工智能科幻作品《造神年代》的作者严曦发表了自己的见解，他认为“3定律”本身是具有局限性的，因为语言本身是不包含三原则的。他表示，“把对机器人的约束标准放到非常抽象的语言层面，这是人类的想法。因为机器人的语言和逻辑是很底层的，它会通过各种强行的细节解释去绕过这些定律”。

换句话说，“3定律”对AI的约束性完全不够强。

也正因此，当我们谈到AI伦理，谈到对AI的约束时，要约束的并不是AI本身，而是AI的开发者。当AI处于古早时期时，发展的并不完善，我们总是把AI联想成类人的东西，从人类既定思维去思考AI。彼时的AI无论从形态，语言还是思维方式上，都没有脱离人的轨道。但今时不同往日，如今的AI十分强大，甚至从底层思维上就与人类大相径庭，它是无法理解人类的行为模式的。总有一天，AI也无法理解“人类伦理”。

人工智能的对齐问题（AI Alignment），一直是AI工作者和AI团队所关注的重要议题之一，也是以OpenAI为代表的头部研究所始终关注和试图攻克的难点。

所谓价值对齐，就是让人工智能系统的行为符合人类的目标，偏好或伦理原则。通俗点说，就是让AI在拥有超自然能力，超人类肉体强度，超人类智慧的同时，还可以顺从人类的情感模式。毕竟，一旦一个超级强大的AI系统所追求的目标和人类的真实意图和价值取向不一致，就有可能带来灾难性的后果。

希望有朝一日，可以给AI加上“紧箍咒”；希望戴上“紧箍咒”的AI，可以真正的造福人类。

       原文标题 : 新火种AI | AI时代可能遇到的伦理问题，你做好准备了吗？