Portkey AI Gateway是一个很厉害的工具，可以连接各种不同的人工智能模型，让开发者可以很容易地用一个简单的方式访问超过100种不同的大语言模型，比如OpenAI、Anthropic、Mistral、LLama2、Anyscale、Google Gemini等。

为什么它那么牛？

1. 速度快，占地小： 安装了这个Gateway后，处理速度会快很多，而且它只占用了45kb的空间，真的是小巧又强大。

2. 可以同时用多个AI模型： 不仅可以连接一个，还可以同时连接多个不同的AI服务，就像同时使用谷歌和OpenAI的不同AI模型一样。

3. 不怕故障： 如果一个AI模型出问题了，它会自动切换到另一个，确保我们的服务一直很稳定。

4. 自动重试： 它还有一个厉害的功能，就是自动重试，而且采用的是一种厉害的策略，可以减少网络负担。

5. 可以随心所欲调整： 你可以根据自己的需要来调整设置，比如你想让请求分配到哪个AI模型，都可以搞定。

6. 加速查询： 还有一个很赞的功能，就是语义缓存，可以让重复查询更快，而且成本更低。

7. 实战验证通过： 它已经在超过1000亿个令牌上进行了实战测试，结果非常令人满意。

总之，有了Portkey AI Gateway，开发者可以轻松地在各种人工智能服务之间来回切换，享受高速、可靠的连接体验。

GitHub：https://github.com/Portkey-AI/gateway… 官网：https://portkey.ai/features/ai-gateway…