这位更是重量级。这篇论文对于概率论学的一塌糊涂的我简直是灾难。
由于 prompt 的分布与预训练的分布不匹配（预训练的语料是自然语言，而 prompt 是由人为挑选的几个样本拼接而成，是不自然的自然语言🤪），作者设预训练的分布为 $p$ 而 prompt 的分布设为 $p_{prompt}$，因此作者认为这两种分布的不符可能是造成 inference 效果不佳的重要原因（$S_n$ 为 context）：
$$argmax_{y}\;p(y|S_n,\;x_{test})\;\neq argmax_{y}\;p_{prompt}(y|x_{test})$$
但是这种不匹配造成可以通过设置更好的 prompt 减弱，进而提出了 $singal$ 的概念，$singal$ 可以认为是一种任务的明确程度，$singal$ 越大代表任务越明确，得到的结果也准确，例如：一般情况下，One-shot 的效果要比 Few-shot 和 Zero-shot 都要差，例如下面的prompt ：
> Albert Einstein was a German. Marie Curie was <token to infer>
这个 context 根本没有明确任务是什么！按照 prompt 的分布这里应该生成的是 Polish，但是按照预训练的分布这里完全可以填 brilliant 什么的，也就是两种分布不匹配的程度被大大放大了。但是如果换成 Few-shot 呢：
> Albert Einstein was German. Mahatma Gandhi was Indian. Karl Heinrich Marx was German. Marie Curie was <token to infer>
这个 context 就很好的描述了任务的目的：判断这些人所属的国家。因此，作为 context 的样本数量增加可以有效增加 $singal$，缩小两种分布的不匹配程度，进而改善效果。
作者进一步总结了几个对 $singal$ 有影响的因素
样本数量
如上文所述，样本越多任务描述越清晰，$singal$ 越大。
输入空间
x 随便选的话会使准确率大幅度降低。
输出空间
y 随便选的话也会使准确率大幅度降低。
输入输出的对应关系
输出的标签在输出空间里面随机选取，对准确率有影响但是没有想象中那么大，进而证明了对 in-context learning 更重要的因素是任务描述，而不是提供的 prompt 是否正确（因为答案错误并没有影响这个任务的目的：情感分类）。
为了使用数学工具进行分析，作者将前文中提到的任务描述定义为 $\theta$，一篇自然语言预料可能包含多个不同的 $\theta \in \Theta$，而一个 prompt 只包含一个 $\theta^*$（例如你考虑你正在写一篇任务传记，你的任务顺序可能是：名字 $\to$ 国籍 $\to$ 职业 $\to$ 成就等包含多个任务，但是在 prompt 中任务顺序是：名字 $\to$ 国籍 $\to$ 名字 $\to$ 国籍 $\to$ 名字 $\to$ 国籍…，只在重复进行一个任务）（国籍 $\to$ 名字这个就是前文提到的分布不匹配，因为自然语言不会出现这样的分布，这种不匹配可以被有利因素补偿），同时我们认为 $\theta^* \in \Theta$（我们认为 icl 要做的任务一定在预训练的语料中出现过了）。
$$p(y|S_n,x_{test})=\int_{\theta} p(y|S_n,\;x_{test},\;\theta)p(\theta | S_n,\;x_{test})\, \mathrm{d}x$$
$$\propto\;\int_{\theta} p(y|S_n,\;x_{test},\;\theta)p(S_n,\;x_{test} | \theta)p(\theta)\, \mathrm{d}x \;\;\;\;(Bayes’\;rule,\;drop\;the\;constant\;\frac{1}{p(S_n,\;x_{test})})$$
$$\propto\; \int_{\theta} p(y|S_n,\;x_{test},\;\theta) \frac{p(S_n,\;x_{test} | \theta)}{p(S_n,\;x_{test} | \theta^*)} p(\theta)\, \mathrm{d}x\;\;\;\;(divided\;by\;a\;constant)$$
待补充。。。
原文地址：http://www.cnblogs.com/metaz/p/16807539.html
