Thread by @Tisoga

如何使用 AI 加速软件开发 🚀

经过几周的迭代，今天正式发布 Devv Search



Devv Search 是一款面向开发者的 AI 搜索引擎，我们基于文档、代码、实时搜索数据从零到一构建了一套高效、准确的 RAG 系统，底层的模型基于微调后的 Code Llama 和 GPT-3.5。

1/13 devv.ai

在深度使用了 GitHub Copilot、ChatGPT 等产品之后，我们发现 AI 在代码生成方面依然存在很大的改进空间。

ChatGPT 和通用的 RAG（Bing Chat）系统在代码生成方面并未做特殊的优化，生成的代码会存在以下问题：

1. 时效性差
2. 错误率高
3. 缺乏上下文理解

2/13

例如在这个例子中，GPT-4 & Bard 的生成效果就不尽如人意。



3/13

https://twitter.com/Tisoga/status/1724387016824287399

为了解决这一问题，我们必须要重新思考如何基于现有的技术栈重新构建一套快速、准确、低成本的 RAG（Retrieval Augmented Generation）解决方案。

4/13

我们采用的方法是：

1）构建了一套 search engine + document + codebase 的 retrieval framework，可以根据问题语义更好地做信息抽取

2）基于 Code Llama 微调了一个新的模型，结合 GPT-3.5 进行生成，在效果接近 GPT-4 的同时，显著提升了推理速度 & 降低了成本

5/13

Devv Search 的使用非常简单，可以输入关键词或者一个问题，既可以获得实时、准确的答案。

生成的结果包含两个部分：

1）右侧的信息源（搜索引擎的实时结果）

2）左侧是基于搜索引擎结果、文档、代码仓库的完整回答

每一个问题都可以继续基于当前的上下文进行追问。

6/13

登录用户点击右上角的 History 可以查看搜索的历史记录，目前这一功能还比较简单，会在未来一段时间进行优化。

7/13

可以直接把 Chrome 的默认搜索引擎改为 ，操作方法如下 👇



8/13devv.ai

https://twitter.com/Tisoga/status/1724290684377866655

我们的愿景是让 AI 加速软件开发。

Devv Search 是 Devv AI ( @devv_ai ) 第一阶段的产品，目标是代替 Google / StackOverflow / 文档的使用。

中期计划是构建 on-device 的代码生成体验，包括 VSCode / Jetbrains 插件，以及桌面端版本。

9/13

长期计划是构建 error-free 的 Coding Agent（非现在市面上的玩具 Agent 项目），以实现代替程序员完成编码的场景。

10/13

发布一周以来，已经获得了 10K+ 的用户，每天的搜索次数已经超过 1 万次，目前还保持着非常快速的增长。

我们是一个小但迭代速度非常快的团队，基本保持了每天发布新的 feature 或者功能优化。在过去的一周中，我们完成了数十次的版本迭代。

11/13devv.ai

我们 follow 了 YC 的建议：做一个自己会用的产品，然后只要去找到和自己有相同需求的那部分人就可以了。



12/13

https://twitter.com/Tisoga/status/1725003944517329222

现在 完全免费，欢迎大家使用 & 提供反馈意见，如果觉得不错，也欢迎推荐给身边同样有编码需求的朋友。

有任何的问题都可以直接给我发私信，或者联系我们团队的另外两位开发小伙伴 @Bohan_active @ldnvnbl

13/13devv.ai