Skip to content

支持gemini吗? #105

Answered by KenyonY
CN-Steve-Lee asked this question in Q&A
Jan 12, 2024 · 1 comments · 3 replies
Discussion options

You must be logged in to vote

确实这个项目的文档写得比较糟糕...

  1. 可以同时转发多个服务,只需要将这些服务放置在对应的路由上就可以,下面是示例:
OPENAI_BASE_URL='http://xxx1, http://xxx2'
OPENAI_ROUTE_PREFIX='/openai1, /openai2'

使用aifd run启动时,就可以在/openai1访问到http://xxx1 的内容,在/openai2访问到 http://xxx2 的内容。
OPENAI_BASE_URLEXTRA_BASE_URL的区别主要是在对转发内容的解析上,EXTRA_BASE_URL不对转发内容进行解析和定制,可以转发任何内容,所以建议对非openai格式的服务EXTRA_BASE_URL来转发。

  1. 使用 deploy to render 进行转发呀,只要在render的配置中填写相关环境变量就可以了。render上除了免费用户无法保存文件这个限制,其它功能都可以实现。
    如果希望用python启动也是可以的,aifd run 等同于 python -m openai_forward.__main__ run

Replies: 1 comment 3 replies

Comment options

You must be logged in to vote
3 replies
@CN-Steve-Lee
Comment options

@KenyonY
Comment options

Answer selected by CN-Steve-Lee
@CN-Steve-Lee
Comment options

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Category
Q&A
Labels
None yet
2 participants