想部署一套 AI 服务,大家有推荐的吗?
之前一直用的 oaifree ,前几天他跑路了。现在打算买 chatgpt4 的 API key ,然后部署到服务端,跟朋友一起用。
我的需求是:
简单易用,我只需要把 key 填进去就好
所有请求由服务端发出,不从客户端走
支持多账户
如果能支持 Gemini 的话,就更好了
推荐 one-api ,部署简单,支持 Gemini ,支持用户管理,你也可以直接生成好 one-api 的 key 给他们
github.com/songquanpeng/one-api
牛啊 这个看着不错
接口又不是只有它一个,还有跟多活着的,oaifree 只是认可度最高
部署的话可以看自己需求, 最开始是 one api ,然后 oaifree 的作者二开了 new api ,除此外还有人三开了化简版的 uni api
one-api 系列的都只能转成 openai 格式,不能代理 claude ;有个 litellm (带一个面板)也可以看看。蹲一下有没有做能代理、统计用量的 openai+anthropic 比较全的,最近 claude 封号严重
github.com/zhayujie/chatgpt-on-wechat 装服务器,在装个 clash 代理
github.com/langgenius/dify
gpt302.saaslink.net/hEDI6f
看看这个,比较稳。注册送 1 刀
可以看一下 LangChat ,最近已经在 Gitee 榜首了
Gitee: gitee.com/langchat/langchat
Github: github.com/tycoding/langchat
VoAPI
建议谷歌 local LLM frontend
还是推荐 LibreChat ,高仿 ChatGPT 界面, www.librechat.ai/
aff
aff
个人使用不建议部署了,现在满大街都是,直接用免费的就好
要用,就试试较新的应用 notebookLLM ,google 和腾讯都有
我个人觉得 one api 或者 new api 太重了,可以试试 uni-api
github.com/yym68686/uni-api
github.com/lobehub/lobe-chat
推荐 Lobe Chat ,支持 Vercel/Sealos 等各种云部署。
最近发现一个新的工具叫 chatnio ,感觉还是不错的, 另外推荐的就是 one-api 了(目前个人部署的就是这个), 至于其他的我就只能呵呵了
github.com/ChatGPTNextWeb/ChatGPT-Next-Web
只是用于网页端,其他客户端自行测试,
不清楚是否支不支持多账号
github.com/ChatBot-All/chatbot-app
移动端或者 iOS 设备用这个
至于多账号,你要么多开虚拟机或者用容器使用,应该可以实现或者有其他代替方案,你可以咨询其他人
OpenRouter + LibreChat
我是自己造轮子。ChatGPT 和 Claude 体验还是网页版好,但 API 可以做很多 function calling ,都用着。
公司搞折旧活动,350 软妹币入手了一台二手 xps13 作为戴尔的旗舰,这台电脑刚刚发售的时候,价格是一点也不亲民,学生时代的我是可望不可即,现在算是圆梦了 有一说一,手感是…
朋友偶尔用我电脑做点事,我新建了一个标准用户给他。他在他账户下偶尔安装一些软件需要输入管理员密码,这就很尴尬了。安装就算了,我账户登录后也会自动启动他安装的软件,而且还有桌面快…
U7 + 32G 刚到手体验了一小时,替换掉 2023 款联想 Yoga 14 至尊版。吐槽一下 首先是压感触控板,我用过 2023 款的,我知道前代触控板相比 Mac 糟糕不…