配置阿里云千问大模型--环境变量dashscope
1 开通百炼
首先要进入到阿里云平台,然后进入百炼平台。
2 获取API-KEY
进入之后再右上角可以查看到自己的API-KEY,这个东西就是需要配置在环境变量里的。
点击查看就可以获取
3 配置DASHSCOPE环境变量
如果使用dashscope来进行千问大模型的API对接,则需要配置环境变量,以windows为例,就是创建如下的环境变量,把上文得到的KEY粘贴进去就行了。
4 测试程序
然后我们可以编写一个测试程序,注意需要安装dashscope先,可以看到程序里是不需要设置api-key的。当然也可以不配置环境变量,把api-key设置在程序里,但是这种方法不太安全,不建议这么做。
# Refer to the document for workspace information: https://help.aliyun.com/document_detail/2746874.html
# 测试千问接口
# 可以测试下环境有没有配置好
from http import HTTPStatus
import dashscope
def call_with_stream():
messages = [
{'role': 'user', 'content': '苏州天气如何'}]
responses = dashscope.Generation.call("qwen-turbo",
messages=messages,
result_format='message', # set the result to be "message" format.
stream=True, # set streaming output
incremental_output=True # get streaming output incrementally
)
for response in responses:
if response.status_code == HTTPStatus.OK:
print(response.output.choices[0]['message']['content'], end='\n')
else:
print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (
response.request_id, response.status_code,
response.code, response.message
))
if __name__ == '__main__':
call_with_stream()