<aside> 💡 DASHSCOPE 是阿里云推出的一个平台，用于提供大模型服务，包括但不限于文本生成、对话交互等功能。在这个平台上，你可以通过 API 调用来使用预训练的大模型，如通义千问等

</aside>

开通服务

模型服务灵积 DashScope

image.png

使用手册

如何快速入门通义千问API_模型服务灵积(DashScope)-阿里云帮助中心

创建DashScope_API_KEY

image.png

API调用

from http import HTTPStatus
import dashscope
from dashscope import Generation
from dotenv import load_dotenv
import os

load_dotenv()
#
dashscope.api_key = os.getenv("DASHSCOPE_API_KEY")
#
responses = Generation.call(model=Generation.Models.qwen_turbo,
                            prompt='今天天气好吗？')

if responses.status_code == HTTPStatus.OK:
    print('Result is: %s' % responses.output)
else:
    print('Failed request_id: %s, status_code: %s, code: %s, message:%s' %
            (responses.request_id, responses.status_code, responses.code,
            responses.message))

image.png

image.png

LangChain集成调用

ChatTongyi — 🦜🔗 LangChain documentation

from langchain_community.chat_models import ChatTongyi
from dotenv import load_dotenv
load_dotenv()
#
# dashscope.api_key = os.getenv("DASHSCOPE_API_KEY")
tongyi_chat = ChatTongyi(
    model="qwen-turbo",
    # top_p="...",
    # api_key=dashscope.api_key,
    # other params...
)

messages = [
    ("system", "你是一名专业的翻译家，可以将用户的中文翻译为英文。"),
    ("human", "我喜欢编程。"),
]
tongyi_chat.invoke(messages)
print(tongyi_chat.invoke(messages))

image.png

参考文章

模型服务灵积 DashScope

dashscope

DashScope LLMS - LlamaIndex