朋友们,大家好!本次更新耗时三个月,绝对也算是重磅更新了。

以下是之前的更新预告:

2024/10/30更新进度预告

 

比较懒,更新内容简单总结如下:

  1. 新增:AI大模型分组,包括 简单对话模式普通批量模式高级批量模式标题扩展助手
  2. 新增:下拉采集助手综合收录查询等!

由于工作量比较大,需要适配众多大模型,本次更新耗时很久。

目前已经支持几十款云端大模型了。

如果算上本地通过LM Studio运行Hugging Face所有模型服务,本工具支持的开源模型数量已经是海量了。

如果你电脑配置还可以,比如8G显存的话,基本都是可以运行本地模型了。

考虑部分用户电脑配置不足,需要使用云端模型,目前支持硅基流动等好几个提供云端模型服务的平台。

实在时间紧张,没有耐心挨个测试,已经支持简单再次列出:

  • 硅基流动
  • 讯飞星火
  • 零一万物
  • 月之暗面
  • 智谱AI
  • DeepSeek
  • 阶跃星辰
  • MiniMax
  • 阿里百炼
  • ChatGPT
  • 紫东太初

等等所有其他未列出的也大部分支持,需要您自行测试了。

总之,有任何需要特别支持的,可以群里联系我!

本地运行模型,目前仅支持LM Studio和Ollama两款工具。向量模型(嵌入模型)目前也仅支持此两款工具本地部署使用,大模型可以使用其他云端模型,向量模型必须本地运行,因为对电脑性能要求非常低,几乎都可以运行所以没必要选择云端还另外付费。

本次更新内容,部分功能需要用到向量模型,需要提前在电脑中下载此两款工具,推荐Ollama,因为模型可以直接下载,LM Studio的模型是下载Hugging Face上的开源模型,需要科学的上网才能下载,有门槛。

向量模型仅推荐两款:第一、使用bge-m3向量模型,支持8000+tokens,入库文章八千字以内应该都没问题。第二、高级模式必须使用bge-large-zh-v1.5向量模型,需要与我文章库保持一致。

具体如何,大家自行下载体验吧!程序编码很难一次性就完美无缺,有Bug欢迎大家群内反馈,感谢!!!

特别说明:目前工作是在适配发布器功能,前两个计划适配的包括:ZblogPHP发布器小旋风发布器。你有其他需求也请告知我。

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。