统计
  • 文章总数:274 篇
  • 评论总数:0 条
  • 分类总数:14 个
  • 最后更新:5小时前
原创套件教程

群晖One API套件:解锁AI Console无缝接入国产大模型

本文阅读 3 分钟
首页 套件教程 正文

Synology AI Console目前除了百度其它比如OpenAI因各种原因我们都用不了,国内的大模型API基本都支持OpenAI格式,而且AI Console在添加的时候也支持自定义API地址,所以有了个方案:转换模型名称让AI Console用上DeepSeek、阿里通义千问。

One API集成了:LLM API 管理 & 分发系统,支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 适配,可用于 key 管理与二次分发。

One API项目地址:https://github.com/songquanpeng/one-api
大道消息:Synology AI Console后续版本将支持自定义,但:One API更方便管理

另:Ollama和LM Studio等工具本地部署的大模型,修改模型名称亦可接入AI Console。(API秘钥一般不需要,随便填)

1、申请DeepSeek阿里通义千问智谱ChatGLM等各种大模型的API

略,DeepSeek要先充值的哦

2、One API添加渠道并开启模型重定向

1720107204.png

举例DeepSeek,模型里面除了选择 deepseek-chat 还需要加一个AI Console里面支持的OpenAI模型名称,比如 gpt-4o-mini

注意:不建议使用思考模式deepseek-reasoner,群晖里面只显示最终结果。没列出的模型名称可以自定义填入。

同时开启模型重定向:

{
  "gpt-4o-mini": "deepseek-chat"
}

3628583370.png

3、获取One API的令牌

创建新的令牌,在令牌--模型范围里面要选上需要的 模型名称 以及!!! 重定向的模型名称!

1740946527.png

点击复制即可获取令牌

3291108374.png

4、AI Console添加

名称随意,API供应商选择:OpenAI,API秘钥填One API的令牌,生成模型选择:gpt-4o-mini(对应deepseek-chat),高级设置里面自定义基本URL:http://127.0.0.1:3333

4214453978.png

验证通过后,在AI Console权限里面启用需要的API

1580909884.png

阿里通义千问同理接入,把需要的模型例如 qwen-plus 重定向名称为 gpt-4o 即可。

2920712022.png

另:添加过程错误分析 /var/packages/AIConsole/var/log/synoai-provider-tool.log

5、Synolog Office效果测试

DeepSeek

3372878634.png

改进写作、语法检查、语气正式化、语气轻松化、内容缩短、内容扩充、翻译以及输入提示等均测试OK

3118756531.png

阿里通义千问

3430844996.png

智谱ChatGLM

1749008193.png

6、API管理

One API提供了详细的API消耗情况,以及对API的权限管理,使用一个API即可管理全部模型,只要大模型的API是OpenAI格式都可以通过One API接入群晖AI Console

2642814817.png

7、漂亮的主题

One API主题说明,目前有:default、berry、air,设置--其它设置--设置主题 里面填写名称后重启套件生效。

1121832505.png

Synology AI Console 1.0 Beta 发布:开启群晖 AI 新篇章

2025年4月8日,群晖通过 Beta 通道发布了 Synology AI Console 1.0。这款全新的 AI 管理工具,允许管理员将第三方 AI 服务集成到支持的 Synology 套件中,从....

黑群晖一键激活AI Console:局域网内SSH连接执行

温馨提示:登录后可阅读隐藏的内容。 登录可见
原创文章,作者:ERROR204,本文章内容未经书面许可禁止一切形式的转载:https://imnks.com/12152.html
矿神群晖SPK套件源内的套件使用哪些网络端口?
« 上一篇 09-02