Skip to content

การกำหนดราคาโมเดล (Pricing)

การกำหนดราคาโมเดล (Pricing) คือการตั้งเกณฑ์ค่าใช้จ่ายต่อ token ที่ gateway จะนำไปใช้ในการคำนวณงบประมาณและข้อมูลการใช้งานทั้งหมด โดยผู้ดูแลระบบแพลตฟอร์ม (platform admin) จะเป็นผู้ดูแลรักษาราคาโมเดลเหล่านี้จากส่วนกลาง เพื่อให้ข้อมูลตัวเลขการใช้จ่ายทั้งหมดมีความสอดคล้องตรงกันทั่วทั้งระบบ

ผู้ที่มีสิทธิ์ในการดำเนินการนี้

Platform admin สามารถแก้ไขราคาได้ที่หน้าจอ Pricing ภายใต้ส่วนข้อมูลแพลตฟอร์ม (Platform) สำหรับบทบาทสิทธิ์อื่น ๆ จะมองเห็นข้อมูลนี้ในรูปแบบสิทธิ์อ่านอย่างเดียวเท่านั้น

สิ่งที่ขึ้นกับการกำหนดราคาโมเดล

ทุกตัวเลขในสกุลเงิน USD ไม่ว่าจะเป็นงบประมาณ ยอดคงเหลือ และข้อมูลค่าใช้จ่ายแยกตามโมเดล จะถูกคำนวณมาจากอัตราค่าบริการเหล่านี้ ซึ่งอัตราดังกล่าวจะครอบคลุมถึงค่าบริการสำหรับ token ขาเข้า ขาออก และอัตราค่าบริการการเขียนแคช (cache-write) หรือการอ่านแคช (cache-read) หากผู้ให้บริการต้นทางรองรับความสามารถนี้ เพื่อช่วยให้การคิดค่าบริการจากแคชมีความแม่นยำสูงสุด

The platform Pricing table with input, output, and cache rates

การกำหนดราคาด้วยตนเอง (Override price)

  1. เปิดหน้า Pricing
  2. ค้นหารายการโมเดลที่ต้องการ โดยอาจค้นหาจากชื่อการจัดเส้นทางเชิงตรรกะหรือระบุรหัสโมเดลจริงของผู้ให้บริการ
  3. ระบุอัตราค่าบริการที่ต้องการ การระบุค่าด้วยตนเองนี้จะบังคับทับ (override) ค่าที่ซิงก์มาโดยอัตโนมัติ
  4. คลิกบันทึก ซึ่งคำร้องขอใหม่ที่ส่งเข้ามาหลังจากนี้จะถูกคิดค่าบริการตามอัตราใหม่ทันทีโดยไม่จำเป็นต้องรีสตาร์ทหรือติดตั้งระบบใหม่

ข้อแนะนำเกี่ยวกับชื่อเชิงตรรกะเทียบกับชื่อต้นทาง

การกำหนดราคาโมเดลสามารถผูกกับชื่อการจัดเส้นทางเชิงตรรกะที่ตั้งค่าไว้รายโปรเจกต์ หรือผูกกับรหัสโมเดลจริงของผู้ให้บริการได้ โปรดกำหนดค่าให้ตรงกับชื่อที่ทางผู้ให้บริการของคุณส่งกลับมา เพื่อให้การคิดราคาแบบลดหย่อนตามแคชทำงานได้อย่างถูกต้องเหมาะสม

ขั้นตอนต่อไป

Enterprise AI governance, on infrastructure you own.