Skip to content

การใช้งานเทมเพลตคำสั่ง (Prompt template)

ผู้ดูแลระบบโปรเจกต์ของคุณสามารถเผยแพร่เทมเพลตคำสั่ง (prompt template) ที่นำกลับมาใช้ใหม่ได้ โดยจะเป็นคำสั่งระบุชื่อที่มาพร้อมกับช่องใส่ตัวแปรในรูปแบบ ซึ่งแทนที่คุณจะต้องเขียนข้อความคำสั่งแบบฮาร์ดโค้ดลงในแอปพลิเคชันของคุณ คุณก็สามารถเรียกใช้งานผ่านชื่อเทมเพลตและส่งค่าสำหรับตัวแปรเหล่านั้นเข้าไปแทน โดย gateway จะนำตัวแปรไปใส่ในเทมเพลตและส่งคำร้องขอฉบับเต็มไปยังโมเดลให้โดยอัตโนมัติ

วิธีการเรียกใช้งานเทมเพลต

เรียกใช้ endpoint ของ chat-completions ตามปกติ แต่ส่งฟิลด์ template (ระบุชื่อเทมเพลต) และ properties (ระบุตัวแปรต่าง ๆ) แทนการส่งอาเรย์ messages ดังนี้

bash
curl https://<your-gateway>/v1/chat/completions \
  -H "Authorization: Bearer $OPSTA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
        "template": "code-review",
        "properties": { "language": "Go", "diff": "<your diff here>" }
      }'

gateway จะนำค่าต่าง ๆ จาก properties ไปแทนที่ตัวแปร แต่ละตัว กำหนดโมเดลตามที่เทมเพลตตั้งค่าไว้ และส่งคำร้องขอปกติไปยังระบบต้นทาง โดยผลลัพธ์ที่ได้กลับมาจะเป็นรูปแบบมาตรฐานของ chat-completion ทำให้คุณไม่ต้องปรับเปลี่ยนโค้ดส่วนอื่น ๆ ของฝั่งไคลเอนต์เลย

ข้อควรทราบ

  • เทมเพลตจะใช้งานแยกเฉพาะโปรเจกต์และต้องได้รับการเผยแพร่ (published) ก่อน โปรดสอบถามชื่อเทมเพลตที่มีสิทธิ์ใช้งานจากผู้ดูแลระบบของคุณ ซึ่งผู้ดูแลระบบจะจัดการเทมเพลตเหล่านั้นได้ที่หน้า Projects → Templates หากมีการเรียกใช้ชื่อเทมเพลตที่ไม่ได้เผยแพร่สำหรับโปรเจกต์ของคุณ ระบบจะส่งสถานะกลับมาเป็น 404 unknown_template
  • ตัวแปรที่ไม่ระบุค่าจะถูกส่งไปแบบข้อความดิบ หากคุณละเว้นการระบุค่าสำหรับตัวแปร ข้อความดังกล่าวจะถูกส่งไปทั้งอย่างนั้น ดังนั้นโปรดระบุตัวแปรที่เทมเพลตต้องการให้ครบถ้วน
  • คุณยังคงสามารถเรียกใช้งานโมเดลตามปกติได้ การส่งข้อมูลในอาเรย์ messages แบบปกติโดยไม่มีฟิลด์ template จะยังคงทำงานได้เหมือนเดิมทุกประการ การใช้งานเทมเพลตจะเป็นแบบเปิดรับ (opt-in) ตามความต้องการใช้งานในแต่ละ request

ขั้นตอนต่อไป

Enterprise AI governance, on infrastructure you own.