但问题是，现在的 AI 和过去那些一步步执行编译的程序不一样，这 AI 有一个算一个，全是黑箱。
不像过去那些程序，要是出了问题，程序员还可以进去打断点，一个环节一个环节的调试 Bug 来把问题给搞清楚，哪一个环节有问题，针对性的改一下就好了。
但现在以 Chatgpt 为首的大模型 AI 就好像一个黑色的纸箱子，你只知道给它喂苹果，它能还你一个橘子，而中间发生了什么事情一概不知。
那万一这箱子要是出了问题，那咋办嘛？只能重新买一个黑箱子了。
ChatGPT 就像一盒巧克力，在它输出完成之前，没有人知道它嘴巴里会蹦出什么字来。
李彦宏也提到： “ 生成式 AI 每次给出的答案不一定一样，会带来不确定性 ” 。
这个生成到底有多不靠谱呢？差评君讲个刚刚遇到的事儿：
前几天不是索尼微软任天堂、育碧和 D 社都说要退出 E3 展会么，我就有点好奇 E3 展会租金到底要多少钱？
先是在知乎上找到了一个回答，答主表示自己查到在 06 年时 E3 的租金就要 500万美元以上。
额。。。06 年，500万？这个数据好像有一些不靠谱，于是我又去用 NewBing 问了一下：
也给出了类似的回答。
有数据有链接，看起来是有理有据。
但问题是当我点开这个链接的时候发现。。。IGN 的文章里面根本没有提到租金 500 万这个数字
合着你是直接把之前的知乎文章翻译了一遍，然后又给我编了一篇英文文章来讹我啊。。。
它顺应了我们的猜测给了一个谣言，要不是我多心看了一眼，可能真的给他糊弄过去了。
真就是睁眼说瞎话大师。
而除了这个 title 以外， AI 还是桀骜不羁的漏洞寻找大师，往往能在我们训练它的过程中表演一手出乎意料。
在人工智能领域，有个非常经典的理论叫做 “ 对齐问题 ” 。
意思是 AI 在做的事情和我们想要的结果之间没有对齐，命令的传递出现了偏差。
就比如前两年那只宁愿一头撞死的赛博狼。
发现抓半天羊还会不断扣分，那还不如一头撞死自己分还比较高。
