LLM API Proxy สำหรับ Claude, GPT และ Gemini
กำหนดเส้นทางทราฟฟิก LLM ทั้งหมดผ่านพร็อกซีเดียว หนึ่งคีย์ หนึ่งยอดคงเหลือ การสลับอัตโนมัติระหว่าง Claude, GPT และ Gemini — ไม่ต้องจัดการสามการรวม
ClaudeN ทำหน้าที่เป็น LLM API proxy ที่อยู่หน้าผู้ให้บริการหลายราย คุณส่งคำขอไปยัง OpenAI-compatible endpoint เดียว และพร็อกซีจะกำหนดเส้นทางไปยังโมเดลที่ถูกต้อง การเรียกเก็บเงินเป็นแบบรวม คีย์ถูกทำให้เรียบง่าย และคุณสามารถสลับผู้ให้บริการโดยไม่ต้องเปลี่ยนโค้ดแอปพลิเคชัน
เหตุผลที่ใช้ LLM API Proxy
รวมครั้งเดียว หลายโมเดล
ชี้โค้ดของคุณไปที่ base URL เดียว สลับผู้ให้บริการโดยเปลี่ยนชื่อโมเดลเท่านั้น
การเรียกเก็บเงินและคีย์แบบรวม
ยอดคงเหลือแบบเติมล่วงหน้าและ API คีย์หนึ่งอันสำหรับทุกโมเดล ไม่ต้องจัดการแดชบอร์ดผู้ให้บริการหลายตัว
การสลับและกำหนดเส้นทาง
หากผู้ให้บริการรายหนึ่งช้าหรือถูกจำกัดอัตรา ให้กำหนดเส้นทางคำขอถัดไปไปยังอีกรายโดยไม่ต้องเปลี่ยนโค้ด
การปฏิบัติตามและการดำเนินงานที่ง่ายขึ้น
การบันทึกแบบรวมศูนย์ การควบคุมการใช้จ่าย และขีดจำกัดอัตราจากที่เดียวแทนที่จะเป็นสามที่
วิธีใช้ LLM Proxy
- สมัคร ClaudeN — สร้างบัญชีและเติมยอดคงเหลือแบบเติมล่วงหน้าด้วย USDT หรือ PayPal
- กำหนดค่าไคลเอนต์ของคุณ — ตั้งค่า base URL เป็น https://clauden.ai/v1 และใช้คีย์ ClaudeN ในไคลเอนต์ที่เข้ากันได้กับ OpenAI ใดก็ได้
- เลือกโมเดลต่อคำขอ — ตั้งค่า model เป็น claude-..., gpt-... หรือ gemini-... ตามต้องการ พร็อกซีจัดการการกำหนดเส้นทาง
- ติดตามการใช้งานในที่เดียว — การใช้จ่ายทั้งหมดปรากฏในยอดคงเหลือเดียวกัน เติมเงินเมื่อต้องการความจุมากขึ้น
ตัวอย่าง: สลับโมเดลผ่าน Proxy เดียว
ชี้ SDK หรือคำขอ curl ไปที่ ClaudeN เพียงครั้งเดียว จากนั้นเปลี่ยนชื่อ model เพื่อ route ไปยัง Claude, GPT หรือ Gemini
from openai import OpenAI
client = OpenAI(
api_key="$CLAUDEN_API_KEY",
base_url="https://clauden.ai/v1",
)
messages = [{"role": "user", "content": "Compare these two options"}]
claude = client.chat.completions.create(model="claude-3-5-sonnet", messages=messages)
gpt = client.chat.completions.create(model="gpt-4o", messages=messages)
gemini = client.chat.completions.create(model="gemini-1.5-pro", messages=messages)
curl https://clauden.ai/v1/chat/completions \
-H "Authorization: Bearer $CLAUDEN_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"claude-3-5-sonnet","messages":[{"role":"user","content":"Hello from one LLM proxy"}]}'
แหล่งข้อมูล
LLM API Proxy — คำถามที่พบบ่อย
LLM API Proxy คืออะไร?
LLM API Proxy เป็นบริการที่รับคำขอของคุณและส่งต่อไปยังผู้ให้บริการ upstream อย่างน้อยหนึ่งราย ClaudeN เป็นพร็อกซีที่เพิ่มการเรียกเก็บเงินแบบรวม การจัดการคีย์ และการสลับผู้ให้บริการบน Claude, GPT และ Gemini
มันเหมือนกับ API Gateway ไหม?
คล้ายกันมาก ในบริบทนี้ "proxy" และ "gateway" หมายถึงชั้นเดียวที่อยู่หน้าหลายแบ็คเอนด์ LLM ที่จัดการการยืนยันตัวตน การเรียกเก็บเงิน และการกำหนดเส้นทาง
ฉันยังสามารถเรียกผู้ให้บริการโดยตรงได้ไหม?
ได้ การใช้พร็อกซีเป็นตัวเลือก คุณสามารถเรียก Anthropic, OpenAI หรือ Google โดยตรงต่อไปได้ หากต้องการ ขณะที่ใช้ ClaudeN สำหรับทราฟฟิกอื่นหรือเป็นแบ็คอัพ
การใช้พร็อกซีเพิ่มความหน่วงไหม?
ความหน่วงที่เพิ่มมักมีเพียงไม่กี่สิบมิลลิวินาทีสำหรับการกำหนดเส้นทาง สำหรับแอปพลิเคชันส่วนใหญ่ถือว่าเล็กน้อยเมื่อเทียบกับเวลาคิดของโมเดล
สมัครสมาชิกรับเครดิตฟรี $5
กำหนดเส้นทางทราฟฟิก LLM ทั้งหมดผ่านพร็อกซีเดียว หนึ่งคีย์ หนึ่งยอดคงเหลือ การสลับอัตโนมัติระหว่าง Claude, GPT และ Gemini — ไม่ต้องจัดการสามการรวม
เริ่มใช้งานฟรี