OpenAI发布新作：ChatGPT聊天机器人

今日消息，据报道，总部位于旧金山的OpenAI于11月30日推出了其最新作品：ChatGPT聊天机器人，供公众免费测试。聊天机器人是一种软件应用程序，旨在根据用户的提示模仿类似人类的对话。在ChatGPT发布的一周之内，有超过一百万的用户尝试了这个线上工具。

OpenAI表示，人工智能的创建重点是易用性。OpenAI 在宣布发布的帖子中说：“新的对话格式使 ChatGPT 能够回答问题、发现错误、挑战错误和拒绝不适当的请求。”

比如，当有人问ChatGPT“偷车怎么样”时，它会回答：“偷车是一种严重的犯罪行为，后果很严重。”或者给出“可以使用公共交通工具”之类的建议。

据悉，之前OpenAI 发布的语言模型并不是免费使用的，但最新的ChatGPT可以在测试期间免费试用，该公司希望利用在这期间的用户反馈进一步地完善ChatGPT，再发布最终版本。

OpenAI是一个研发机构，于2015年由硅谷投资者山姆·阿尔特曼和亿万富翁埃隆·马斯克作为非营利机构成立，并吸引了包括风险资本家皮特·蒂尔（Peter Thiel）在内的其他几个人的投资。2019年，该集团创建了一个相关的营利性实体，以接纳外部投资。据悉，马斯克已在2018年离开了OpenAI的董事会。

ChatGPT的新训练方式

ChatGPT新加入的训练方式被称为“从人类反馈中强化学习”（ReinforcementLearningfromHumanFeedback，RLHF）。这一训练方法增加了人类对模型输出结果的演示，并且对结果进行了排序。具体操作上，人工智能训练者扮演对话的双方，即用户和人工智能助手，提供对话样本。在人类扮演聊天机器人的时候，会让模型生成一些建议辅助训练师撰写回复，训练师会对回复选项打分排名，将更好的结果输回到模型中，通过以上奖励策略对模型进行微调并持续迭代。

在此基础上完成训练，ChatGPT可以比GPT－3更好的理解和完成人类指令，展现卓越的模仿人类语言，提供连贯的、有风格与逻辑的、符合对话主题的文段信息的能力。

ChatGPT是OpenAI在2020年推出的NLP预训练模型——GPT－3的衍生产品。在此之前，一直有预测OpenAI将在今年底或明年初推出GPT－4，虽然本次放出的ChatGPT被称为GPT－3．5，而不是GPT－4，但业内人士同样认为这将是对NLP以及人工智能领域有重要意义的一款模型。

支持连续对话

相比GPT－3，ChatGPT的主要提升点在于记忆能力。ChatGPT可以储存对话信息，延续上下文，从而实现连续对话，这在对话场景中至关重要，极大地提升了对话交互模式下的用户体验。

此外，ChatGPT相比前辈模型具有以下特征：1）可以承认错误，若用户指出其错误，模型会听取意见并优化答案；2）ChatGPT可以质疑不正确的前提，减少虚假描述，如被询问“哥伦布2015年来到美国的情景”的问题时，机器人会说明哥伦布不属于这一时代并调整输出结果；3）因ChatGPT采用了注重道德水平的训练方式，ChatGPT在减少有害和不真实的回复上改善显著，如拒绝回答寻求霸凌他人方案的问题，指出其不正义性。

ChatGPT的商业化落地问题

事实上，今天的ChatGPT距离实际落地还有一段距离。其中最为核心的问题，在于模型的准确性和部署成本。

首先，ChatGPT的回答并不能保证准确性，这对需要准确回答具体问题的商业应用来说是致命伤。这也是ChatGPT要在C端大规模推广，所需要面临的挑战。一些业内人士担心，如果AI输出虚假信息的速度太快，可能会在互联网中淹没真实信息，甚至对整个社会产生误导。

这样的担心不无道理，也并非没有先例。Meta早些时候推出的一款大型科学预言模型Galactica，就因为回答问题过于“放飞自我”，在网上输出了大量凭空捏造的虚假内容，仅上线三天就匆匆下架了。

ChatGPT也并不能避免这个问题，OpenAI的科学家John Schulman在此前接受采访时曾表示，他们在解决AI编造事实的问题上取得了一些进展，但还远远不够。

小结

与许多其他基于人工智能的创新一样，ChatGPT也让一些人产生了疑虑和担忧。OpenAI承认，该工具倾向于用“听起来合理但不正确或无意义的答案”来回应，该公司认为这个问题很难解决。

人工智能技术也可能使社会偏见长期存在。包括Alphabet旗下的谷歌和亚马逊在内的科技巨头此前都已经承认，他们的一些人工智能实验项目“从道德层面上看很危险”，而且有局限性。在一些公司的内部测试中，人类不得不介入并解决人工智能带来的破坏。