作者：谭婧
（一）指令数据，了解一下
先聊一件圈内趣事：
2023年初，大约在1月到2月份前后，
百度公司如流工作卡上有一个任务，
让百度员工打开脑洞，写“问答对”。
一问一答都让员工设计。
如流是百度员工内部通讯，相当于企业微信。
我推测此举很可能是在充实其“指令数据集”。
百度的做法是非常科学的指令数据集构造方法。
指令数据（Instruct data）是一种用于训练大模型的数据类型。
通常以有问有答的形式呈现。
在一问一答中传递信息，非常直观。
这种形式更接近人类的交流方式，
经过训练，能够更直接地引导大模型“行为”。
对比预训练环节的数据多来自于互联网数据爬取，需要经过清洗，抽取等冗长过程，指令数据的构造是另一种难度。
问题以一种人类真实需求来表达，不能瞎编。
答案则是尽量正确，且有针对性的回答，不能乱造。
例如，回答“今天天气怎么样？”时，
不能说“很好”，
而应该说“今天天气晴朗，气温为20℃，风力微弱。”
大语言模型的知识主要是在预训练期间学习的。
大语言模型“炼成后”，仍需“三大”步骤；
在第一个步骤中，通过指令数据进行有监督学习，至关重要。
指令（Instruct）可以简单理解为，
“命令”“指示”“指挥”，就是人类下达指令“让”大模型“干活”：
写封信，写首诗，写代码，等等。
比如，闲聊中也会有问有答的句子，但明显不同于指令数据，指令数据的内容针对问题来回答，所以针对性强。闲聊数据中找问答对，效率太低。
从学术人员的角度，
以前是小模型百花齐放的世界，一个模型干一件事（任务）。
现在是大模型一统天下，一个大模型能干得活可太多了，不能乱指挥，
得有一种方式让它知道你想干啥。
人类写好的一问一答的这种方式，
很适合大模型学习。
指令数据的微调让大模型多遵循指令，
少胡编事实。
指令（Instruct）和提示词（Prompt）的区别？
两者的相同之处在于都可以引导模型。
通常来说，指令更强调对模型的具体要求，让其执行某个特定的任务，
而提示词更广泛，可能是一个问题、一个主题或一个启发性的语境。
大家观察GPT-3.5，喜欢参考Instruct-GPT的论文，看看论文里怎么说：
“我们收集了一个数据集，并使用此数据集做训练，让模型学习和参考，期望大模型的输出像人类已经编写好的例子这样。”
