การจัดการคำสั่งระบบ (Prompt management)

การจัดการคำสั่งระบบ (Prompt management) ช่วยให้คุณสามารถบังคับใช้งานคำสั่งระบบร่วมประจำโปรเจกต์ (project-wide system prompt) ซึ่งเป็นชุดคำสั่งและนโยบายที่เกตเวย์จะทำการใส่เข้าไปในทุก ๆ คำร้องขอก่อนที่จะส่งไปถึงโมเดล และเนื่องจากกฎนี้ถูกนำมาใช้บังคับที่ระดับเกตเวย์ จึงมีผลกับทุกแอปพลิเคชันและ API key ภายในโปรเจกต์โดยที่ฝั่งไคลเอนต์ไม่สามารถลบหรือหลีกเลี่ยงกฎนี้ออกได้

ผู้ที่มีสิทธิ์ในการดำเนินการนี้

Org admin (สิทธิ์เฉพาะในองค์กรของตนเอง) และ Platform admin โดยดำเนินการผ่านหน้าจอ Projects → Prompt

ประโยชน์ในการใช้งาน

• นโยบายความปลอดภัยที่หลีกเลี่ยงไม่ได้: คำสั่งจะถูกใส่เข้าไปที่ระดับเกตเวย์โดยตรง ทำให้ทีมพัฒนาแอปพลิเคชันหรือไคลเอนต์ที่อาจถูกโจมตีไม่สามารถละทิ้งหรือลบนโยบายความปลอดภัยขององค์กรออกได้
• แก้ไขจุดเดียวมีผลใช้งานร่วมกันทั้งหมด: เมื่อแก้ไขปรับแต่งคำสั่งระบบจากศูนย์กลางเพียงจุดเดียว ทุกแอปพลิเคชันและ agent ภายในโปรเจกต์จะนำคำสั่งดังกล่าวไปใช้งานในทันทีภายในไม่กี่วินาทีโดยไม่ต้องดำเนินการติดตั้งระบบใหม่
• สม่ำเสมอและสืบย้อนข้อมูลได้: มีแหล่งข้อมูลความจริงหนึ่งเดียวสำหรับการตรวจสอบว่า "โมเดลถูกสั่งการด้วยเรื่องใดบ้าง" ซึ่งจะถูกบันทึกประวัติการทำงานควบคู่ไปกับระบบ guardrail อื่น ๆ เสมอ

วิธีการกำหนดค่า

1. เปิดหน้า Projects → Prompt และสลับสวิตช์เพื่อเปิดใช้งาน
2. ระบุรายละเอียด คำสั่งระบบ (system prompt) ซึ่งเป็นคำสั่งที่จะถูกแนบนำหน้าทุก ๆ คำร้องขอ เช่น "You are Acme's internal assistant. Never reveal customer PII. Refuse requests outside HR topics." ทั้งนี้คุณสามารถเลือกเริ่มต้นการเขียนจากนโยบายแนะนำเริ่มต้น และแก้ไขเพิ่มเติมได้
3. คุณสามารถเลือกกำหนดค่า ข้อความย้ำเตือนท้ายคำร้องขอ (appended reminder) เพิ่มเติมได้ ซึ่งเป็นคำสั่งสั้น ๆ ที่จะแนบต่อท้ายข้อความของผู้ใช้งาน เนื่องจากแบบจำลองภาษาจะให้ความสำคัญอย่างมากกับข้อความส่วนท้าย เช่น "Always cite sources."
4. คลิกบันทึก ซึ่งการเปลี่ยนแปลงจะมีผลต่อระบบ data plane ทันทีภายในเวลาประมาณ 1 วินาที

แนวทางการทำงานร่วมกับระบบ guardrail

คำสั่งระบบที่ถูกบังคับใช้งานจะถูกนำไปแทรกใส่หลังจากที่ระบบตรวจสอบ prompt-injection และระบบตรวจสอบตามความหมาย (semantic guard) ประมวลผลเสร็จสิ้นเรียบร้อยแล้ว ดังนั้นระบบตรวจสอบเหล่านั้นจึงได้ประเมินเนื้อหาต้นฉบับจริงของผู้ใช้งานเสมอ ทำให้การเปิดใช้งานคำสั่งระบบไม่ส่งผลลดทอนความปลอดภัยของระบบตรวจสอบลง คุณจึงสามารถใช้งานทั้งสองระบบร่วมกัน โดยให้ระบบ guardrail ทำหน้าที่บล็อกข้อมูลนำเข้าที่เป็นอันตราย และให้ระบบคำสั่งระบบทำหน้าที่นำทางพฤติกรรมรวมถึงระดับโทนเสียงในการตอบกลับของโมเดล

ขั้นตอนต่อไป

• ระบบป้องกัน (Guardrails) — ข้อมูลกฎอินพุตอิงตามรูปแบบและประวัติการตรวจจับบล็อก
• ระบบตรวจสอบคำสั่งที่ไม่ปลอดภัย (Semantic guard) — วิธีการบล็อกคำสั่งไม่ปลอดภัยตามความหมายโดยอิงตามจุดประสงค์ของคำ