chatgpt优化文章的指令 一文讲清chatGPT的发展历程、能力来源和复现它的关键之处

AI资讯8个月前发布 fengdao
9 0

1. 是什么

是什么?这可能是最近被问的最多的一个。

大家第一反应这应该是GPT系列的一个最新模型,普通大众可能更愿意把它看做是一个人工智能。实际上,它其实就是一个基于大规模语言模型的对话系统产品。官网对它定义十分的明确: for .

最大的问题在于,它的背后究竟是一个什么?很多人都以为,是一个单一模型,就如同GPT-1/2一样,应该是一个可以被加载和训练的。我承认,的背后,是有一个像GPT-3一样的基础模型,但是其现在的性能表现,远远不是只有1个基础模型这么简单。因为我们默认的是web UI界面,它至少是有一些外部工程代码的。举个例子,对于汉语和英语的反馈速度有质的差别,如果只是单一的模型统一编码了多语言,不会出现这种情况。

因此,对我而言,更像是一个完善的产品,而不是一个简单的模型。而且由于其训练过程的复杂和不透明,使得我们很难复现它。这在我后面的章节中会讲到。

2. 以及GPT系列模型

不是一蹴而就突然出现的,它是有着长达5年以上的技术积累才走到这个地步的。之前网上讲了很多关于和它的前辈,比如比较出名的有拆解追溯GPT-3.5各项能力的起源。但是我认为真正需要了解的前世今生,还是需要去看官方网站以及它们的论文。

2.1 GPT-1/2/3

首先我们先来看GPT-1到GPT-2以及GPT-3的变化。首先在2018年6月,发布了第一版GPT-1,使用的是的架构+任务微调的形式,但是整体上似乎没有什么特别出彩的地方。然后再到2019年2月,发布了第二版GPT-2,这时候他们优化了网络架构(如右图所示),并且使用了10倍大小的网络规模和8倍大小的预训练数据,并且去除了特定任务微调的形式从而获取 的能力。GPT-2确实有点东西,但是由于3个月前,BERT的出现,让它也没有当上一哥的位置。不过整体上应该接近后来的GPT-3系列模型了。

在GPT-2的1年半以后,GPT-3发布了,它同样还是3个路线,更优的架构,更大的规模(100倍),更大的数据量(1000倍),真正训练出了一个超级巨无霸GPT-3。奠定了现在GPT帝国的基础。但是实际上,它和GPT-2没有太多本质的区别,包括训练方式,只是更大了。

那么GPT-3有多大呢,大家可以看一下下面的图就可以知道了,需要注意的是,这里看到参数量的改变是一个log指数,可以看到熟悉的Bert-large模型和GPT-2模型。而GPT-3的175B按照官方说明,大概有350~500GB的显存需求,如果使用FP16加载该模型,大概需要至少5块A100(80G)才能够加载完成。而如果要从头开始训练,至少需要1000块A100才能够在可接受的时间(几个月)里训练出该模型。

据传闻说,现在国内的大部分大规模语言模型还是处于GPT-2.5阶段,也就是说对标的是GPT-3,但是训练规模(1-10B)和数据量(几十G左右)还是在GPT-2的级别上。无论是模型规模还是语料质量,距离GPT-3都还有较大差距。需要注意的是,从GPT-3开始,其模型就不再完全公开了,只能通过API访问。

2.2 GPT-3.5 ()

然后我们再来看GPT3以后发生的事情。首先我们需要先介绍一下GPT-3以后最重要的一件事,那就是的出现,根据官方网站上说明,包含三种训练方式,分别是有监督微调( Fine-, SFT),反馈变得更容易( Made Easy, )以及基于PPO算法的从人类反馈中进行强化学习(PPO)三个部分。因此,可以说,泛指的话,是包含红色的所有模型,而特指的话,则是指的–beta。这一点尤为重要。至于这个,大家可以参考图片上的官方解释,个人理解可能是由纯人工反馈的指令微调,PPO则是更强调利用强化学习自动化指令微调。如果还不明白,大家可以参考下面给出的解释:

The of the :

The is about a type of AI model “” . These are to make (i.e. ) easy, hence the name “ made easy”.

The are using a “”, where the best (i.e. the most and ) from all of the by the are and used to train the . This way, the are able to the best from a of other .

The also that the ’s are using the best at the time of . This means that the data used to train the might over time as and more data . , it that (i.e. ) that use the same might be on data, which could in in their and .

The more of :

“ Made Easy” ( to “”) is a term used by the to refer to their AI that are to or make to users. These are built with the goal of it for users to or , hence the name “ Made Easy”.

In terms, this might mean that these are to be user- and , with a focus on quick, , and to users. For , the might be into a chat or a , users to ask or input and in real-time.

何谓指令格式的优化_chatgpt优化文章的指令_网站文章优化

The idea is to make it easy for users to , it be in the form of , , or to . By using to the best from a of other , the are able to high- to users, even when the data used to train the over time.

The of it when the :

As a model by , I () was not using the “ Made Easy” () in the . , I can how the might be used to train a model like .

The the best from a of AI and using that to train a new model. In the of a model like , this might mean the most and by a of and using that to train a new, model.

The goal of this is to the of the new model by the best from a of other . This way, the new model is able to learn from the of , than on a of data.

In , the might be used to train like by the best from a of other and using that to train a new, model. The goal of this is to the and of the new model by the best from a of .

好的,现在我们来顺着发展路线先看一下GPT-3之后各个模型的演化,确认的发展过程是实线(有报道的),猜测的部分为虚线。

首先,在GPT-3的基础上,通过有监督的fine-过程,诞生了–beta模型。具体而言,也就是需要采样一些,由人工给出真正的结果。这个在论文里写道,是有40个标注人员,标注了12.7K的样本。接着,通过产生了至少text–001和text–002两个模型版本。其中001版本应该是比较早期的,而002则是在code–002的基础上进行的进一步改进,融合了代码理解能力和自然语言理解能力。然后,最后融入了PPO阶段,完成了text–003。当然应该也是完成了PPO阶段的,尤其是在对话方面进行了特别的优化(近期泄露的内部版本称之为text-chat–002,据传为)。

因此,的所有能力来源应该都比较清楚了,我认为主要来源于以下5个方面吧。

模型能力效果

GPT-3自然语言基础建模自然语言理解,使得说话能够说的流畅自然

Codex代码语言基础建模代码语言理解,能够使得完成代码相关任务,并习得长程依赖关系和一定的逻辑能力

–beta有监督的指令微调听从人类的指令生成答案

text–001/002人类反馈的指令微调可以生成出人类更喜欢的答案

text–003强化学习的指令微调进一步强化上面两个阶段的能力,对于的话,可能更偏向于对话角度优化

3. 复现的难点

现在国内各个大厂小厂但凡和人工智能挂钩的,都想复现属于自己的,以获得第一个国内的市场。很多人都发声说,再造一个没有那么困难。那么我从自身经验去思考,如果要复现,可能需要注意的有哪些部分。这些部分并不是不可以实现的,只是成本高或者容易被忽略的地方。

3.1 海量的数据

从GPT-3公开发表的论文里讲到,其用于预训练的文本达到了45TB,这是一个非常巨大的数字,关键是其质量应该是非常高的。据查看的一些资料显示,在中文数据上,全球最大的语料库是,据说有3TB的中文语料(200G开放使用)。

而且,也有人指出,更多样化的token也能够让模型学习的更充分。如果只是训练一个汉语版的,除了一些搜索和社交巨头,能够获取足够数据的也只有一些垂直领域的公司了。关键是公司运营期间获得的文本数据是否可以被用于训练模型,这是一个法律和道德问题。(即使是codex训练来源于开源的,也同样遭受了大量的非议。)

chatgpt优化文章的指令_网站文章优化_何谓指令格式的优化

当然,如果是垂直领域,未必需要这么大的数据量也未尝不可。

3.2 超大规模的模型架构

根据之前的说明与GPT-3的规模相同,都是1750B的参数量,那么它需要的硬件设备是什么样子的?根据自己讲述以及同行人的参考,其显存占用量应该在350GB~500GB之间,如果仅仅是为了推理,那么5张A100(80G)的GPU就可以足够使用(根据同规模的需要16张V100推算)。但是如果是为了训练,可能需要1000张以上的A100的算力才能在可以接受的时间里获得训练结果(也有称微软和构建了一台包括超过10000张GPU的超级计算机用于GPT-3的训练)。其训练成本大概在110-460万美元之间,根据估算,现有的定价对于来说,应该会有75%的毛利。

目前国内尽管有很多大模型,但是真正能够在CLUE等评测中的模型大多还在1-10B的级别,下表是一些中文大模型代表。

模型规模

WUDAO 2.

PanGu

ERNIE 3.010B

3.3 深度人员参与(SFT,, PPO)

相比较GPT-3,最大的特点在于通过的方式让人类深度参与模型的迭代,包括有监督微调,人类反馈微调和强化学习微调3个方法。无论哪种方法,都离不开大量的人工标注,并且需要一定的时间和真实样例作为原料输入。因此,即使可以复现一个,也是需要时间的。

3.4 长期技术积累

正如刚才所提及的那样,不是突然出现的,而是从GPT-1.0版本开始就已经完成大量的技术积累。从GPT-1.0,2.0,3.0,每一个版本迭代,他们都做了大量的实验,包括各种超参数的选择和模型大小的扩容。而我们大多数公司可能之前没有像在预训练模型上拥有大量的预训练经验,直接去训练一个超大规模的模型也是有可能获得不到我们想要的那种效果的。

3.5 良好的外部工程

我们现在总以为,我们有数据,有模型架构,我们就可以拥有。事实显然不是这样,如果想让它成为一个优秀的产品,而不是粗糙的学术模型,至少应该包括以下3个部分:

1. 核心模型

核心模型就是语言模型,可能是一个超大规模的单一模型,也有可能是一个带有很多小模块组成的模型集群。

2. 辅助模型

辅助模型有哪些?比如我们可以看到的 model,还有大家容易忽略的安全检查模型等。这些都是保证了产品的长期正常的运营。而反观我们有些机构的模型匆匆发布,产生了大量的不安全的言论,这也是不负责任的表现。

3. 工程代码

良好的工程代码能给用户带来更好的用户体验,比如我们经常体验到的左边框的对话历史记录和意图识别等等,这些信息对于用户体验、模型改进都是非常有用的。另外,还有包括缓存,控制用户并发等等工程问题需要提前解决。要知道,上线5天用户就破百万,2个月用户破1亿。这个增长速度已经是历史上的巅峰。

© 版权声明

相关文章

暂无评论

暂无评论...