Thread by @xiqingongzi

写一些自己拿 ChatGPT 的 API 做应用的心得，可能是一组 Thread。由于我说的很有可能是错误的，所以欢迎大家来一起讨论。我会用 #ChatGPT 、 #OpenAPIAPI 来区分面向普通用户和面向开发者的部分。（1/N）

#ChatGPT ChatGPT 能否替代我们当中的绝大多数人？如果你的工作不具备任何判断，仅提供信息收集和处理，那答案是 YES。ChatGPT虽不能做出判断，但海量知识下提供的可能性，也比你有限知识下提供的可能性更有价值一些。毕竟 AI 是真学。
（2/N）

#ChatGPT ChatGPT 的局限性在哪？ChatGPT 是在海量数据当中找最有可能符合你的预期的答案。而在向量空间里，和你预期一致的答案有很多种，所以你用 ChatGPT 同一个 Prompt 会有很多种，可以用来做参考，但可能做决策还是依赖提问的那个人。ChatGPT 可能会把多人团队干成单兵作战 + AI 的模式（2/N）

#ChatGPT 你是否应该试试 ChatGPT？答案是肯定的。他固然不能完全替代人，但他可以有效的提升你的生产力，从“卷”的角度来看，你会比没有使用 ChatGPT 的人“卷”的更快一点，成为超出社会平均生产力的人。对于个人而言，你的单位效能有提升。大家一起用，最终促进社会整体效能的提升。（3/N）

#ChatGPT 拥抱 AIGC？从我自己的视角来看，我是拥抱的。前面也说了，ChatGPT 之类的AIGC产品把过去需要团队才能做成的事情进一步降低了门槛，单兵+ AI就可以做的大差不差。利好独立开发者和小团队。和我的长期预期和目标是一致的，所以我坚持拥抱 AIGC。（4/N）

#ChatGPT 提供 Client 是一个好的产品方向选择么？我觉得是一个不错的入口，不过问题可能主要在 1. 门槛相对较低，各种 ChatGPT 的 UI 层出不穷，大家比较卷。 2. 比较考验手速：大家一起卷的时候，你要比别人卷的更快，才能更产生价值。3. 长期价值比较难搞: 主要是提问难。但踩在风口赚一笔OK（5/N )

#ChatGPT 提问难是啥意思？字面意思，大部分人都只能问出一个非常简单、普适性的问题。一个好问题(能够符合 ChatGPT 的能力，同时又有价值的问题）很难。所以提供 Client 的产品的问题是，快速涌入一批人试用，完成初次的付费，之后付费和增长乏力。主要还是能想到的问题就那么几个（6/N）

#ChatGPT 提问难的问题也不是完全无解，有两个思路：一类是提供封装好的能力，比如 Notin AI / Craft AI 这些早期就用上 OpenAI 能力的产品。通过封装一些适合自己的产品的 Prompt ，来实现降低用户提问的难度。再辅以一定的自定义能力，就可以很好的在工作/生活中解决用户的问题。（7/N）

#ChatGPT 另外一类产品，则是在 Client 的基础之上给用户丰富的试玩的可能性。比如内嵌一些 Prompt Library。你不会提问题没问题，我内嵌了一堆各式各样的 Prompt，你试玩着试玩着钱就没了。也能提升一些流转率，但也仅仅是让曲线更平缓，没有本质性的解决问题。（8/N）

#ChatGPT 终局：ChatGPT类的产品的特色是你问啥他都会，但这类产品的局限也在于太过于 General，意味着这个领域大概率存活下来的就那么一家。考虑到中国特色，估计国内还要有另外一家。没辙，中特估逻辑。其他的基本上都是基于这几家大的，然后通过 Finetune or Embdding 的能力来做二次开发。（9/N）

#ChatGPT 卡点：对于国内的大公司来说，算力显然是卡点。现在的 AI 都是数学问题，你可以理解为我们在试图用 X 元方程做题，X越大，能解决的问题越多，GPT 3、GPT3.5 的参数都在快速扩大，能力也会越强。但另一面是 X 越大，你得出结果所需要的算式数量也越大。所以 NVDA YYDS（10/N）

#OpenAIAPI 基于 OpenAI 开发产品，我大体上分为三层：第一层是 Prompt Engineering，这一层还可以细分两层，是直接提供 Client （可能是端，也可能是 Web）和在 Client 之上，提供一些Prompt的基础封装和能力。这两者的普遍问题是比较薄，大家互相抄起来也比较快，要卷一卷。但好处是快，风口（11/N）

#OpenAIAPI 第二层是对原模型进行 Finetune，在比较低的成本下来做一些特定领域的事情，比如假设我要做一个 AIGC 应用，希望其返回能够根据我的需要进行微调整，那我可以通过 Finetune 来实现。相比于直接用 Prompt + 原模型，你可以让经过 Finetune 的模型在取向上更加接近你想要的结果。（12/N）

#OpenAIAPI 毕竟 Finetune 的原理决定了，它能做的有限，它能做的便是让你的 Prompt 在无尽的向量空间里，尽可能接近你的目标方向（通过控制输入和输出来 Finetune），从而实现更加精准的返回结果。但另一方面，也是让 模型不要过于胡说八道（提升正确的概率）（13/N）

#OpenAIAPI Finetune 可以帮助你的 Prompt ，在无尽的向量空间里，找到真正属于的你的 Prompt 的答案。所以如对于正经当商业应用的能力，大概率会走到 Finetune 的路径上去。但 Finetune 也有代价，更贵。且训练要钱，使用也要钱（但很合理），比起自己造轮子，依然是一个好的方案。(14/N)

#OpenAIAPI 当然，你也可以使用开源的模型来自己跑，价格可以大幅度下降。不过，对于绝大多数的中小公司来说，使用现成的模型 +一些基础的 Finetune，可以解决绝大多数的问题。这也是为啥我看好 ChatGPT/OpenAI 的原因。他让过去的领域 AI 变成了如今的通用 AI，拥有了更多的可能性。（15/N）

#OpenAIAPI 但未来，终究我们选择的还会是领域 AI。因为通用 AI 对于使用者的要求太高了，绝大多数人用的还是领域 AI 。但 OpenAI 让领域 AI 的诞生成本下降了 N 个数量级。我自己用过很多 NPL 领域的 AI 产品，非常难用，又不具备可优化的空间，捏着鼻子用，ChatGPT 和 OpenAI解决了这个问题（16/N）

#OpenAIAPI 第三层则是用 Embedding，从文字推倒变为数学向量推导，可以解决更大范围的数据问题。 Finetune无法解决海量数据的分析和处理，提供 Embedding来解决。先将数据转换为向量，并从海量的向量中提取出最接近目标值的结果，发给 AI 回答，让 AI 可以在已经初步圈定范围的结果中做出预测（17/N）

#OpenAIAPI 当你搞到 Embedding 的时候，基本上 OpenAI 给你提供的基础能力差不多你已经玩透了，接下来的问题就是，你的业务场景是什么？实际上，我并不觉得 OpenAI 和 ChatGPT 最后的赢家是新人。AI 增强，算力足够的情况下，唯一限制你的便是你的领域知识。领域专家配合上 AI 能力，最佳（18/N）

#OpenAIAPI 有了领域的知识， 配合上OpenAI 的能力，基本上你就可以在自己的领域内去干掉其他没有领域知识或领域知识不足的人了。当然，你也可以选择用 AI 作为教育能力，去帮助领域知识不足的人。但总得来说，你需要先是领域专家，然后才能更好的应用 AI。AI不是 1，而是 1 后面的 0 。（19/20）

我能马上想起来的，就是这些问题，其他问题~欢迎你来一起讨论。