Read on Twitter
在我们调用OpenAI的API的时候，除了Prompt和模型，还有几个参数可以选：Temperature、Top K和Top P。
大部分都知道温度（Temperature）参数是可以控制输出的确定性的，温度越低，输出结果越确定；反之温度越高，输出结果越具有多样性。
那么Top K和Top P是什么呢？看完这个视频你会找到答案！
大部分都知道温度（Temperature）参数是可以控制输出的确定性的，温度越低，输出结果越确定；反之温度越高，输出结果越具有多样性。
那么Top K和Top P是什么呢？看完这个视频你会找到答案！
这个视频来自Google的Generative AI learning path课程系列的《Introduction to Generative AI Studio 生成式人工智能工作室介绍》
完整视频：
完整视频：
https://twitter.com/dotey/status/1673894764893343745
Top K 可以让模型从可能性最高的前 K 个词中随机返回一个词，这种方法可以让模型不会总是选概率最高的那个，而是从概率最高的前K个词中随机选择一个词。
但这种方法有一个缺陷，比如说你指定Top K是3，但如果概率最高的前3个词里面，第3个词其实概率很低相关度很弱，那么就会导致生成的结果不够好。… twitter.com/i/web/status/1…
但这种方法有一个缺陷，比如说你指定Top K是3，但如果概率最高的前3个词里面，第3个词其实概率很低相关度很弱，那么就会导致生成的结果不够好。… twitter.com/i/web/status/1…
• • •
Missing some Tweet in this thread? You can try to
force a refresh
