了解 ChatGPT 的训练过程

Do you think we'll ever get to a point where models like this can train themselves completely?

Honestly, training something this big must take insane amounts of computing power and time. Hats off to the engineers!

Anyone heard about how they keep it from generating harmful stuff? Like, besides human feedback?

I wonder how they balance making it helpful while not letting it reveal sensitive info or generate bad content.

It's pretty wild how much data they use to train it. They feed the model tons of text from books, articles, websites, basically all over the internet to learn language patterns.

我很惊讶即使有这么多数据，模型有时仍然会犯错或产生幻觉信息。

需要考虑的一点是，训练开始时使用无监督学习，这意味着模型从文本中的模式中学习，而无需明确的指令。

我在某处读到，他们首先使用一个在庞大数据集上训练的基础模型，然后进行称为微调的操作，使其专门用于聊天。

我认为最难的部分是确保模型足够理解上下文，以保持对话的连贯性。

如果有人对人工智能工具感兴趣，也可以查看 ai-u.com 上的新工具或流行工具，那里总有很酷的东西。

我觉得有趣的是，在初始训练之后，他们会进行更新，以保持ChatGPT的最新状态并提升其知识和安全性。

我就是喜欢这些回答的自然感觉，真正展示了训练方法的先进性。

我希望我能知道其背后的确切架构，但据我了解，它是一个拥有数十亿参数的变换器模型，帮助它处理上下文。

想想为了让 ChatGPT 变得这么好，经历了多少反复试验，真是疯狂。

有人知道训练数据是否包括对话还是仅仅是书面文本吗？

数据集的规模必须非常庞大。我想知道他们如何确保多样性，以避免偏见。

基本上，他们通过展示良好对话的示例来教授，同时也惩罚错误答案？听起来像是在训练一只狗，哈哈。