Azure OpenAI和OpenAI同源,并且在国内付款也很方便。
所以如果使用官方的OpenAI服务的话,这个是最优解。
注册登录Azure Link
点击下面这个区域到达Azure的注册页面(如果没有登录的话)
接下来会让你输入个人信息,国内手机也可以使用,需要绑定信用卡,在不开付费业务的时候是不会有支出的
注册完之后呢,我们会到达一个门户页面,咱们点击创建:
- 这里的名称会成为之后我们OpenAI服务的endpoint前缀
- 区域。每个区域的GPU数量不一样,提供的模型和算力限制也不一样,我这边建议选择Japan
- 接下来的步骤一般不需要做修改,网络和Tags直接下一步下一步,创建资源就可以了
- 等待部署完成之后,打开部署的服务,左上角就是你的部署的时候的名称。
接下来你能看到这样的情况,点击我用红色区域勾选的按钮:
来到了Azure OpenAI Studio:
点击创建模型,我们选择gpt-4o
:
这里的模型版本根据你服务部署所有的区域有关系,不同的模型的API定价各不相同
等他部署好了之后,你可以去操场中试试聊天效果:
再来说说,怎么在LangChain里通过设置环境变量来使用Azure的OpenAI:
AZURE_OPENAI_API_KEY=abc
AZURE_OPENAI_API_VERSION=abc
AZURE_OPENAI_API_DEPLOYMENT_NAME=abc AZURE_OPENAI_API_INSTANCE_NAME=abc
AZURE_OPENAI_API_EMBEDDINGS_DEPLOYMENT_NAME=abc
各个内容分别是图里标注的位置:
然后API_INSTANCE_NAME就是之前的截图里的打码部分,也就是你创建的时候的名称那里的内容。
其次就是嵌入模型API_EMBEDDINGS_DEPLOYMENT_NAME,在这里创建,基本步骤和创建4o一样,就不多说了: