产品主要功能和描述: 1. **模型计费配置**:支持自定义模型供应商和模型列表,每个模型自由设置价格,支持倍率、按量计费、按次数计费。 2. **多用户用量统计和计费**:记录每次completion请求的token用量,并根据配置进行计费。 3. **显示费用**:每条消息最后显示该消息的花费。 4. **自助机器人**:提供自助服务机器人,用于查询用量/充值等操作。 5. **适配OpenRouter**:对OpenRouter进行了适配,支持后台调用API获取精确的token计费结果。 6. **适配Deepseek**:对Deepseek R1推理模型的reasoning_content进行了特别适配,自动转换成`<think>` tag。 7. **数据存储**:使用SQLite存储数据。 8. **计费示例**:提供了计费的详细示例和配置文件(位于GitHub仓库中)。 9. **简易使用说明**:提供了简易配置指南的链接(位于GitHub仓库的wiki中)。
产品主要功能和描述: 1. 基于LangChain的开源GPT向量+知识数据库,用于创建专属AI问答助手Casibase。 2. 支持OpenAI GPT-4模型、GPT Vision图片解析、DALL-E画图等功能。 3. 支持最新Claude 3 Opus、Sonnet等模型,超越GPT-4。 4. 国际模型支持:Azure OpenAI、Google Gemini Pro、HuggingFace、Cohere等。 5. 国内模型支持:文心一言、通义千问、ChatGLM、Minimax、讯飞星火等。 6. 支持多种Embedding嵌入API接口,如OpenAI V3, Ada V2, 百度文心一言等。 7. 支持多种通用文档格式:TXT, Markdown, Docx, PDF等,支持PDF文件智能解析。 8. 计算所有大模型API的Token数和价格(美元或人民币),方便管理员进行API成本统计。 9. AI小助手通过右下角弹框嵌入到应用网站,进行在线实时聊天,支持聊天会话人工接入。 10. 知识库文档存储支持本地存储或云端存储(阿里云OSS、Amazon S3、群晖NAS等主流云存储)。 11. 支持多用户、多租户,管理员可进行用户管理、角色管理、权限管理。 12. 支持QQ、微信、企业微信、钉钉、Google、GitHub等第三方登录,支持短信登录、邮箱验证码登录。 13. 支持谷歌reCAPTCHA、hCaptcha、阿里云、GEETEST极验、Cloudflare Turnstile等人机验证方式,专业防盗刷。 14. 聊天会话云端存储,所有设备实时消息同步,随时可查看,不会丢失。 15. 支持中文、英文等十几种界面语言。