DeepSeek接入个人知识库,回答速度飞快,确实可以封神了!

 

你好,我是姜兆阳这篇文章跟大家汇报下,DeepSeekMine软件V6版本发布后,最近三天我们的更新情况。我们主要进一步优化了RAG算法,解决了V6版一些bug,新增文件导入界面进度展示,支持托管文件夹等。

1. DeepSeekMine软件可能有些朋友第一次看到DeepSeekMine,简单做个介绍,DeepSeekMine是DeepSeek+个人知识库RAG软件。不同于其他知识库软件,如ima, 纳米知识库,DeepSeekMine对文件知识分析完全都在本地,包括计算嵌入向量,大模型分析。与其他同类软件如cherry, anythingllm等相比,它能做到秒级回复,精度还够好。如下使用DeepSeekMine的一些用户给到反馈1:

反馈2:

那么现在我们的软件RAG精度还有提升空间吗?答案是肯定的,并且我们一定不会停止RAG精度的优化。要知道,在计算资源更为有限的本地环境,不借助任何远程API,纯靠本地算力,能做到回复快,精度够好,是一件非常有挑战的事情。根据我们的调研,目前真正完全都使用本地算力,但还能做到RAG精度和ima一样的,是没有的。

ima背靠更大的嵌入向量模型、更满血的大模型实现了精度更好的RAG.那为什么大家不都直接去用ima呢?原因是不少人、不少公司出于个人隐私、公司管理规定等,不能把文件上传到云端,所以也就无法使用ima这样的工具。很多朋友都跟我反映了这样的需求,想通过AI大模型分析自己电脑上的文件,提升工作效率。2. 软件主要功能DeepSeekMine软件上手还是比较容易的,如下是主页,这里新增不同知识库种类:

进入知识库的导入:

我们将在V6.1版本支持文件夹的自动托管,让大家更容易管理自己的文件知识,不用在一个一个的手动导入了,并且支持的文件数量不限制。当然手动导入也有场景,比如大家需要重点聚焦某些文件,让大模型快速检索分析总结它们。在V6导入对话框我们修复了一些bug,界面做了美化,比如V6上传

文件过多后,上传文件按钮会被遮挡,如下所示:

即将发布的V6.1,实现了文件导入的进度状态管理,支持文件移除,同时UI界面做了大幅优化,让大家用起来更舒服。同时为了更好的管控上

传文件数,限制单次只能上传10个文件:

如果上传文件多,大家可以使用托管文件夹功能,自动不限制文件数量。导入文件后,接下来就可以借助大模型的分析总结能力,通过RAG算法,找到最匹配的文本片段,注入到大模型做分析。

如下支持中英文检索,输入问题,左侧自动显示命中的知识,动态返回最匹配的文本片段,支持跨多个文档检索,然后注入到deepseek-r1:1.5b模型,给出结合我们文档的回答:

同时还支持保存某次大模型的回答为笔记,并全部保存在自己电脑上,如下所示:

大家想先使用V6版本的,目前支持Windows和Mac版本,可以在下面我的公众号回复:知识库3. 软件V6.1升级主要内容
V6.1我们将在这周发布,主要升级的功能包括:

1)软件第一次启动卡顿问题。私有化部署最难的就是软件安装,大家的环境多样化,所以发版总会遇到安装问题。根据目前反馈,造成软件无法启动原因之一:防火墙问题。

启动防火墙的步骤:操作方法:控制面板 → 系统与安全 → Windows Defender 防火墙 → 允许应用或功能通过防火墙 → 添加 DeepSeekMine.exe

启动慢的问题主要是因为V6增加了对嵌入向量大模型的支持,第一次启动会慢一点,V6.1会部分优化,第二次后启动后将会做到3秒内启动软件,如下所示:

2)混合RAG算法修复一处bug(用户query中英分词问题);对混合算法参数调优。

3)修改命中文档颜色显示,之前版本颜色有些刺眼,V6.1将会调整为浅色,如下所示:

4)首页删除按钮,某些情况无法点击问题

 

或在列表展示页按钮被隐藏,列修改为中文:

5)上传知识库文档时,档文档数量较多时,看不到确认按钮了,无法操作,在第二节已经提到已解决。

6)新增功能:支持文件夹内所有知识文件的自动托管

7)界面 UI 持续优化,新增三栏面板的显示与隐藏功能,支持响应式布局,自由切换视图:

8)一些其他优化。

4 总结一下

DeepSeekMine软件,最重要的优化目标永远都是RAG精度,我们会一直努力下去,让大家在本地电脑上安全的实现文件分析。同时我们也对软件质量有着很高的要求,做到又快又准,尽管挑战不小,尽管离着目标还有段距离,但向前的脚步不会停下。

 

声明:本文为原创,作者为 姜兆阳,转载时请保留本声明及附带文章链接:https://www.yicheng77.com/742.html