LLM Gateway-多模型API统一管理网关

统一输出格式:客户端使用一种格式(如 OpenAI 风格),网关按上游要求做转换。 灵活的路由选择:支持按优先级、轮询、延迟优先或成本优先分配请求,支持模型分级和备用模型切换。 用量统计:记录每次调用的 token 消耗,存入数据库,方便对账和成本分析。 基础保护机制:简单的熔断和限流,避免上游抖动影响整体体验。 管理界面:动态调整 provider 配置和 key,无需重启服务。

开源一个我们自己用的大模型 API 网关,支持 OpenAI、Anthropic、DeepSeek 等
2026年7月9日
0
13

Discussion

评论与讨论

0 条公开评论
正在加载评论...

登录后参与讨论

评论使用你的 RustPoint Logto 账号身份。

猜你喜欢

「小代码」搜狗输入法自定义短语分片管理「 Python 」

小代码-搜狗输入法自定义短语Python脚本管理

产品主要功能:搜狗输入法自定义短语分片管理。 描述:用户可以通过编写Python脚本来管理和拼接输入法的快捷短语文件。支持.ini和yaml格式,方便用户存储和使用常用命令。

Python脚本
open-connector:自托管的 AI Agent 认证网关

open-connector-自托管AI Agent认证网关

open-connector:自托管的 AI Agent 认证网关。内置 1000+ 个 provider、9600+ 个 action(GitHub、Gmail、Notion、Slack、BigQuery 等)。支持两种部署方案:本地 Docker / Node.js,或原生部署到 Cloudflare Workers。可检查的契约:每个 action 都带请求/响应 schema 和所需 scope。凭证留在自己 runtime:支持 API Key、OAuth2、自定义凭证、no-auth。多种接入方式:MCP、HTTP、OpenAPI、TypeScript SDK,以及可视化 Web Console。

AI工具开发编程

Mipa-远程控制 Clash/Mihomo/Surge iOS App

产品主要功能:通过HTTP API远程控制其他设备上安装的Clash/Mihomo/Surge的iOS App。 描述:Mipa是一款远程控制软件,支持通过HTTP API控制iOS设备上的Clash、Mihomo或Surge应用。该软件由Swift原生实现,适用于iOS 26.0及以上版本。目前仅国区可用。

内容创作营销销售
[网站自荐] Bookmark Separator Pro 垂直/水平书签分隔符生成器,为书签栏注入秩序与美感, 16+ 样式,无限种组合,轻松打造层次分明的书签管理体验

Bookmark Separator Pro Bookmark Remainder and Manager Pro

产品主要功能和描述: **Bookmark Separator Pro** **主要功能**: 1. **垂直/水平书签分隔符生成器**:为书签栏提供秩序与美感的分隔。 2. **多种样式组合**:提供16+种精美分隔符样式,并支持双模式切换(垂直与水平)。 3. **个性化定制**:用户可以调整分隔符的颜色和文字,实现个性化定制。 4. **实时预览**:提供所见即所得的编辑体验,拖拽后立即呈现效果。 5. **书签同步**:完美支持浏览器的书签同步功能。 6. **跨平台支持**:适用于所有主流浏览器。 **描述**: Bookmark Separator Pro是一款优雅的浏览器书签分隔工具,旨在为用户提供有序且美观的书签管理体验。它无需安装,拖拽即用,通过精心设计的分隔符帮助用户将杂乱的书签转变为井井有条的知识管理系统。该产品具有极简的使用体验、丰富的分隔样式、人性化的设计以及书签同步功能,适合各种用户群体,包括效率达人、设计爱好者和普通用户。

书签管理整理工具
[Apple TV] CastFlow 更新:把闲置的 Apple TV 变成 NAS 监控大屏,顺便聊聊用它投屏看世界杯

CastFlow-Apple TV NAS监控与投屏播放器

CastFlow 是 Apple TV 上的全能播放器,主要功能包括: - 媒体服务器:支持 Emby / Jellyfin 登录,提供海报墙、续播、收藏 - IPTV:支持 M3U / Xtream 源及 EPG 电子节目单时间轴 - 投屏接收:支持 DLNA 投屏(咪咕、小红书等 App)及 B 站官方投屏协议(带弹幕) - 网络存储:支持 SMB / WebDAV 直接浏览播放 - 云盘:支持 Google Drive / Dropbox - HTTP 推送:局域网内通过 curl 链接播放 - 空闲屏:支持相册屏保、翻页时钟、NAS Monitor 新增的 NAS Monitor 功能可将闲置 Apple TV 变成 NAS 监控大屏: - 免安装 agent,通过 SSH 采样,无需在 NAS 上安装软件或修改防火墙 - 1 秒级实时刷新,采样间隔可调(1s/2s/5s/10s) - 覆盖指标:CPU(总占用、每核占用、分量、负载)、内存(已用、缓存、缓冲、Swap)、网络(接口实时上下行、累计流量)、磁盘(读写 IOPS、平均延迟)、文件系统(各挂载点容量、ZFS 池健康)、TCP 连接统计、系统信息、60 秒历史曲线 - 兼容群晖、QNAP、OMV、TrueNAS SCALE、Unraid 等 Linux 系 NAS,以及 OpenWrt 软路由和 Mac mini - 安全支持密码和 Ed25519/RSA 私钥登录,支持 iCloud 同步配置

生活娱乐
[开源分享] lathe - 可以把 api/proto 一键转为 CLI and SKILL

lathe-一键将 api_proto 转换为 CLI 和 SKILL

产品主要功能和描述: 1. lathe 可将 api_proto 一键转为 CLI 和 SKILL。 2. 连接已有 swagger/openapi/protobuf,通过 spec parser 聚合为统一的 IR ,生成 cobra 应用。 3. 附带一份 API 指南的 SKILL。 4. 支持 override layer 覆盖原有 API 设计。 5. 提供统一的 auth 接入方式。 6. 支持 command/search 快速查找命令及查看参数信息。

API工具CLI工具