การใช้งานเทมเพลตคำสั่ง (Prompt template)
ผู้ดูแลระบบโปรเจกต์ของคุณสามารถเผยแพร่เทมเพลตคำสั่ง (prompt template) ที่นำกลับมาใช้ใหม่ได้ โดยจะเป็นคำสั่งระบุชื่อที่มาพร้อมกับช่องใส่ตัวแปรในรูปแบบ ซึ่งแทนที่คุณจะต้องเขียนข้อความคำสั่งแบบฮาร์ดโค้ดลงในแอปพลิเคชันของคุณ คุณก็สามารถเรียกใช้งานผ่านชื่อเทมเพลตและส่งค่าสำหรับตัวแปรเหล่านั้นเข้าไปแทน โดย gateway จะนำตัวแปรไปใส่ในเทมเพลตและส่งคำร้องขอฉบับเต็มไปยังโมเดลให้โดยอัตโนมัติ
วิธีการเรียกใช้งานเทมเพลต
เรียกใช้ endpoint ของ chat-completions ตามปกติ แต่ส่งฟิลด์ template (ระบุชื่อเทมเพลต) และ properties (ระบุตัวแปรต่าง ๆ) แทนการส่งอาเรย์ messages ดังนี้
curl https://<your-gateway>/v1/chat/completions \
-H "Authorization: Bearer $OPSTA_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"template": "code-review",
"properties": { "language": "Go", "diff": "<your diff here>" }
}'gateway จะนำค่าต่าง ๆ จาก properties ไปแทนที่ตัวแปร แต่ละตัว กำหนดโมเดลตามที่เทมเพลตตั้งค่าไว้ และส่งคำร้องขอปกติไปยังระบบต้นทาง โดยผลลัพธ์ที่ได้กลับมาจะเป็นรูปแบบมาตรฐานของ chat-completion ทำให้คุณไม่ต้องปรับเปลี่ยนโค้ดส่วนอื่น ๆ ของฝั่งไคลเอนต์เลย
ข้อควรทราบ
- เทมเพลตจะใช้งานแยกเฉพาะโปรเจกต์และต้องได้รับการเผยแพร่ (published) ก่อน โปรดสอบถามชื่อเทมเพลตที่มีสิทธิ์ใช้งานจากผู้ดูแลระบบของคุณ ซึ่งผู้ดูแลระบบจะจัดการเทมเพลตเหล่านั้นได้ที่หน้า Projects → Templates หากมีการเรียกใช้ชื่อเทมเพลตที่ไม่ได้เผยแพร่สำหรับโปรเจกต์ของคุณ ระบบจะส่งสถานะกลับมาเป็น 404
unknown_template - ตัวแปรที่ไม่ระบุค่าจะถูกส่งไปแบบข้อความดิบ หากคุณละเว้นการระบุค่าสำหรับตัวแปร
ข้อความดังกล่าวจะถูกส่งไปทั้งอย่างนั้น ดังนั้นโปรดระบุตัวแปรที่เทมเพลตต้องการให้ครบถ้วน - คุณยังคงสามารถเรียกใช้งานโมเดลตามปกติได้ การส่งข้อมูลในอาเรย์
messagesแบบปกติโดยไม่มีฟิลด์templateจะยังคงทำงานได้เหมือนเดิมทุกประการ การใช้งานเทมเพลตจะเป็นแบบเปิดรับ (opt-in) ตามความต้องการใช้งานในแต่ละ request
ขั้นตอนต่อไป
- โมเดลและการจัดเส้นทาง — รายชื่อโมเดลเชิงตรรกะที่คุณสามารถเรียกใช้งานได้
- เชื่อมต่อฝั่งไคลเอนต์ — วิธีการตั้งค่าเครื่องมือที่เข้ากันได้กับมาตรฐาน OpenAI ให้ชี้มายัง gateway