⚠️请注意

文档已经部署到 https://gptdoc.sparkai.chat 上去啦!此处不再维护,只是作者的私人草稿本了。

主要作者简介:

如果你有兴趣加入这个文档的创作、或者加入我的团队、或者单纯是想了解最新的资讯,请联系下面这个微信加入微信讨论群

Untitled

1. 基础概念

1.1. ChatGPT

ChatGPT 是由 OpenAI 开发的尖端对话人工智能产品,基于 GPT 系列语言模型设计,旨在生成类似人类的自然语言应答。ChatGPT 因其生成连贯、上下文相关的应答能力而备受欢迎。

Untitled

ChatGPT 建立在多项底层技术之上,包括自然语言处理、循环神经网络、Transformer 和 GPT。它还使用了一种称为 RHLF 的训练方法,简单来说即人工标注+强化学习。这种训练方法可以让模型从错误中学习,不断改进。

其最核心的底层语言模型叫做 Generative Pre-trained Transformer,简称 GPT,该系列语言模型最初由 OpenAI 在2018年推出。自那时以来,该公司一直在对模型进行改进,目前历经 1、2、3、4 代,也被称为 GPT1、GPT2 等,而 GPT3.5 可以理解是 OpenAI 为了推出 ChatGPT,在 2022 年 1 月推出的 GPT3 的优化版。

而 ChatGPT 是基于 GPT 系列模型所创建的产品,目前官网的对话机器人 ChatGPT 可以使用 3.5 版本和 4 版本的 GPT 模型。

<aside> 👨🏻‍💻 相关阅读与来源 1

</aside>