Opsta AI Gateway คืออะไร
Opsta AI Gateway คือจุดควบคุมระดับองค์กรสำหรับทุกการรับส่งข้อมูลด้าน AI ขององค์กรคุณ ทุกการร้องขอ (request) ของโมเดลภาษาขนาดใหญ่ (LLM) และทุกการเรียกใช้เครื่องมือของ AI-agent (MCP) จะต้องทำงานผ่าน gateway ที่ได้รับการควบคุมดูแลนี้ โดยระบบจะทำงานภายในสภาพแวดล้อมของคุณทั้งหมด ทำให้คุณควบคุมได้ทั้งค่าใช้จ่าย การเข้าถึง และความเสี่ยง โดยที่ข้อมูลของคุณไม่มีวันไหลออกนอกโครงสร้างพื้นฐานของตนเอง
ทำไมต้องใช้ gateway
เมื่อทีมต่าง ๆ เริ่มนำ AI มาใช้งาน จะเกิดปัญหาหลักขึ้น 2 ประการพร้อมกัน ได้แก่
- AI กลายเป็นภาระค่าใช้จ่ายหลัก: ทุกทีมเรียกใช้งาน LLM โดยตรงโดยไม่มีการกำหนดขีดจำกัดและไม่มีการระบุผู้รับผิดชอบ ทำให้ยอดค่าใช้จ่ายรายเดือนเป็นเรื่องที่คาดเดาไม่ได้และไม่มีเจ้าของงบประมาณที่ชัดเจน
- AI กลายเป็นช่องทางของความเสี่ยง: ไม่มีการควบคุมว่าใครจะใช้งานโมเดลใด ไม่มีการปิดบังข้อมูลที่ละเอียดอ่อน ไม่มีระบบป้องกันความปลอดภัยจากการป้อนคำสั่ง (prompt injection) และไม่มีการบันทึกประวัติ (audit trail) ว่ามีการส่งข้อมูลใดออกไปบ้าง ซึ่งบ่อยครั้งมักเป็นการส่งผ่านระบบคลาวด์ภายนอกที่คุณไม่สามารถควบคุมได้
Opsta AI Gateway จึงเข้ามาทำหน้าที่เป็นจุดควบคุมที่ปลอดภัยเพียงจุดเดียวเพื่อจัดการปัญหาทั้งหมดนี้
สิ่งที่คุณจะได้รับ
- ควบคุมค่าใช้จ่าย: กำหนดงบประมาณ USD แบบลำดับขั้นตั้งแต่ระดับองค์กร โปรเจกต์ กลุ่ม จนถึงผู้ใช้งาน พร้อมจำกัดจำนวน token ต่อนาที และใช้ระบบ semantic caching เพื่อลดค่าใช้จ่ายที่เกิดขึ้นจริง ดูข้อมูลเพิ่มเติมได้ที่ งบประมาณและขีดจำกัด
- กำกับดูแลการเข้าถึงและความปลอดภัย: ยืนยันตัวตนผ่าน API key กำหนดสิทธิ์ตามบทบาท (RBAC) ปิดบังข้อมูลส่วนบุคคล (PII masking) ป้องกันการทำ prompt injection ผ่าน guardrail และเก็บบันทึก ประวัติการใช้งานอย่างละเอียด
- กำกับดูแล AI agent: ลงทะเบียนและควบคุมดูแล MCP server ระยะไกล เพื่อช่วยให้การรับส่งข้อมูลของเครื่องมือ agent ได้รับการยืนยันตัวตน แยกส่วนตามโปรเจกต์ และถูกตรวจสอบ ซึ่งถือเป็นมาตรการควบคุมเดียวกันกับการรับส่งข้อมูลของ LLM
- ความเป็นเจ้าของข้อมูลอย่างแท้จริง: ติดตั้งบนระบบของคุณเองและรองรับการทำงานแบบ air-gap โดยที่ data plane จะทำงานอยู่ภายในคลัสเตอร์ของคุณ ส่งผลให้ prompt และข้อมูลที่ละเอียดอ่อนไม่มีวันไหลออกนอกสภาพแวดล้อมของคุณ ดูข้อมูลเพิ่มเติมได้ที่ ความเป็นเอกราชของข้อมูล
- ออกแบบมารองรับการใช้งานหลายทีม: รองรับระบบหลายผู้เช่า multi-tenancy อย่างแท้จริง โดยระบบเดี่ยวสามารถให้บริการได้หลากหลายองค์กร โปรเจกต์ กลุ่ม และผู้ใช้งาน ซึ่งแต่ละส่วนจะมีโครงสร้างการกำหนดค่า งบประมาณ และแดชบอร์ดที่แยกจากกันโดยสิ้นเชิง
กลุ่มผู้ใช้งานหลัก
- นักพัฒนา (Developer): เรียกใช้งาน gateway ได้เหมือนกับ endpoint ทั่วไปที่รองรับมาตรฐาน OpenAI ดูข้อมูลเพิ่มเติมได้ที่ คู่มือการใช้งาน
- ผู้ดูแลระบบองค์กรและแพลตฟอร์ม (Organization & Platform Administrator): กำหนดค่าผู้ให้บริการ (provider) งบประมาณ guardrail ระบบ MCP และระบบ SSO ได้จาก web console ดูข้อมูลเพิ่มเติมได้ที่ คู่มือสำหรับผู้ดูแลระบบ
- วิศวกรแพลตฟอร์ม (Platform Engineer): ติดตั้ง ดูแลความปลอดภัย ขยายระบบ และควบคุมการทำงานบน Kubernetes ดูข้อมูลเพิ่มเติมได้ที่ การติดตั้งและปฏิบัติการ
ระบบนี้เหมาะสำหรับแพลตฟอร์ม AI ภายในองค์กร ธุรกิจที่มีหลายหน่วยงาน และองค์กรที่มีข้อกำหนดด้านความเป็นเอกราชของข้อมูลหรือข้อกำหนดทางกฎหมายที่เข้มงวด
รูปแบบติดตั้งเองหรือให้เราดูแลแบบครบวงจร
คุณสามารถเลือกที่จะดูแลรักษา Opsta AI Gateway ด้วยตัวเอง หรือเลือกให้ทาง Opsta ช่วยติดตั้ง ควบคุมดูแล และสนับสนุนการใช้งานในรูปแบบ managed service ที่มาพร้อมระบบตรวจสอบสถานะตลอด 24 ชั่วโมงและข้อตกลงระดับการให้บริการ (SLA) ระดับเทียบเท่ากับธนาคาร
ขั้นตอนต่อไป
- แนวคิดสำคัญและคำศัพท์เฉพาะ — คำศัพท์ที่ใช้ในเอกสารนี้ทั้งหมด
- สถาปัตยกรรม — โครงสร้างและส่วนประกอบต่าง ๆ ของระบบ
- วงจรชีวิตของการร้องขอ — กระบวนการที่เกิดขึ้นเมื่อมีการส่ง request ผ่าน gateway