درس ۳ از ۶، مدل‌ها و پرامپت

مدل‌های چت و پیام‌ها

ویدیویی ۲۲ دقیقه به‌روز شده در ۲ آبان ۱۴۰۵

مدل چت ورودی را به صورت فهرستی از پیام‌ها می‌گیرد و یک AIMessage برمی‌گرداند.

from langchain_core.messages import SystemMessage, HumanMessage

messages = [
    SystemMessage("تو یک دستیار فنی هستی و کوتاه و دقیق جواب می‌دهی."),
    HumanMessage("تفاوت list و tuple در پایتون چیست؟"),
]
reply = model.invoke(messages)
print(reply.content)
print(reply.usage_metadata)   # توکن‌های ورودی و خروجی

سه روش اجرا#

  • invoke: یک ورودی، یک خروجی
  • stream: خروجی را تکه‌تکه و هم‌زمان با تولید می‌دهد
  • batch: چند ورودی را موازی اجرا می‌کند
for chunk in model.stream("یک هایکو درباره‌ی پایتون بنویس"):
    print(chunk.content, end="", flush=True)