爱意满满的作品展示区。
liufei141748

[开源] Edge-Cloud Gateway:找 3~ 5 位开发者实际测试

  •  
  •   liufei141748 · 2 days ago · 373 views

    大家好,我最近开源了一个实验性项目:Edge-Cloud Gateway 。

    它位于 OpenAI-compatible 客户端与本地/云端模型之间,根据安全规则选择:

    ---完整请求直接上云

    ---本地模型选择相关原始上下文后再上云

    ---明确指定的受限任务使用本地模型

    项目不会强制压缩请求。如果本地筛选失败、不安全或者没有产生实际缩减,就恢复完整请求。

    当前 v0.1.0 已有:

    --OpenAI-compatible Chat Completions

    --Ollama 和通用兼容 Provider

    --SSE 与工具调用透传

    --路由、回退、延迟和 Token 指标

    --默认离线 Mock

    --399 项自动化测试

    --36 个合成安全场景

    --公开 CI 和 MIT 许可证

    先说明:项目目前不是生产可用版本,没有客户端认证、TLS 和多租户隔离,请勿直接暴露到公网。

    现在想找 3 ~ 5 位开发者实际按照 README 运行一下,主要希望了解:

    安装和首次启动是否顺利;

    README 有没有看不懂或缺失的步骤;

    Ollama/Open WebUI/其他兼容服务是否能正常接入;

    路由和回退设计是否符合实际使用需求。

    不求帮忙刷 Star ,真实 Issue 和兼容性反馈更有价值。

    仓库: https://github.com/liufei141748-bfm/edge-cloud-gateway

    Issue: https://github.com/liufei141748-bfm/edge-cloud-gateway/issues

    No Comments Yet
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2724 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 07:35 · PVG 15:35 · LAX 00:35 · JFK 03:35
    ♥ Do have faith in what you're doing.