目前API服务器正在上传几百GB的向量数据库的数据中,略有性能影响。
主要功能预计新增如下:
- 本地AI大模型实现文章批量生成,结合自己理解实现示例文章做RAG进行组合Prompt,最大化确保AI生成的文章原创度。
- 计划在支持本地大模型的基础上,也能方便支持云端大模型,由于众多模型的API接口标准不同,需手动适配,目前已适配所有兼容OpenAi接口的本地模型。主要通过Ollama和LM Studio实现本地模型的对接。
- 模型支持数量等待正式发布时在统计,总之,本地运行的开源模型全部支持了。
- 为了完美实现AI文章的生成功能,特意开发了两款助手,其一、四家搜索引擎的下拉词采集助手,可通过匹配相似度进行过滤,相似度算法足以确保下拉词的精准性。其二、关键词生成标题助手,通过本地AI大模型接口依据提供的关键词,让AI给生成大量标题。此两款助手难点在于相似度算法和AI返回的数据精确提取,已实现的策略已经接近完美。
- 最重磅的功能,则是高级批量模式,就是我API服务器提供一千五百万篇各行各业的人工手写文章向量数据库,各位使用时会通过标题或者关键词,进行语义查询出最相似文章,用于RAG组合Prompt(指令)让AI分析并生成最接近文章,足以确保文章的真实性和原创性,防止被检测出AI生成的痕迹。
总之,此次更新也算是重磅更新了,把我目前能想到的最完美方法正在实现中。不同于市面上其它仅通过指令进行生成文章的工具,RAG方式已经是使用AI大模型用于文章生成的唯一方式了。我耗时好多天把大模型从头到尾彻底的学习了一遍,除了指令直接生成外,只有两个知识点就是:RAG和微调,微调很不切实际,RAG是唯一方式,所以本工具下个版本的功能逻辑,绝对是天花板级别了。
请所有走过路过,有需要的朋友们,敬请期待,我尽快完成并发布出来。
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。
评论(0)