朋友们,大家好!本次更新耗时三个月,绝对也算是重磅更新了。
以下是之前的更新预告:
2024/10/30更新进度预告
比较懒,更新内容简单总结如下:
- 新增:
AI大模型分组
,包括简单对话模式
、普通批量模式
、高级批量模式
、标题扩展助手
; - 新增:
下拉采集助手
,综合收录查询
等!
由于工作量比较大,需要适配众多大模型,本次更新耗时很久。
目前已经支持几十款云端大模型了。
如果算上本地通过LM Studio运行Hugging Face所有模型服务,本工具支持的开源模型数量已经是海量了。
如果你电脑配置还可以,比如8G显存的话,基本都是可以运行本地模型了。
考虑部分用户电脑配置不足,需要使用云端模型,目前支持硅基流动等好几个提供云端模型服务的平台。
实在时间紧张,没有耐心挨个测试,已经支持简单再次列出:
- 硅基流动
- 讯飞星火
- 零一万物
- 月之暗面
- 智谱AI
- DeepSeek
- 阶跃星辰
- MiniMax
- 阿里百炼
- ChatGPT
- 紫东太初
等等所有其他未列出的也大部分支持,需要您自行测试了。
总之,有任何需要特别支持的,可以群里联系我!
本地运行模型,目前仅支持LM Studio和Ollama两款工具。向量模型(嵌入模型)目前也仅支持此两款工具本地部署使用,大模型可以使用其他云端模型,向量模型必须本地运行,因为对电脑性能要求非常低,几乎都可以运行所以没必要选择云端还另外付费。
本次更新内容,部分功能需要用到向量模型,需要提前在电脑中下载此两款工具,推荐Ollama,因为模型可以直接下载,LM Studio的模型是下载Hugging Face上的开源模型,需要科学的上网才能下载,有门槛。
向量模型仅推荐两款:第一、使用bge-m3向量模型,支持8000+tokens,入库文章八千字以内应该都没问题。第二、高级模式必须使用bge-large-zh-v1.5向量模型,需要与我文章库保持一致。
具体如何,大家自行下载体验吧!程序编码很难一次性就完美无缺,有Bug欢迎大家群内反馈,感谢!!!
特别说明:目前工作是在适配发布器功能,前两个计划适配的包括:ZblogPHP发布器
和小旋风发布器
。你有其他需求也请告知我。
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。
评论(0)