คู่มือเริ่มต้นใช้งานอย่างรวดเร็ว API LLM แบบไม่เซ็นเซอร์

ข้อกำหนดเบื้องต้น: คีย์ API และ URL ฐานของคุณ

เริ่มต้นด้วยการสร้าง groq ai api key ผ่านหน้า Get API key คุณสามารถลงชื่อเข้าใช้ด้วย Google หรือใช้อีเมลและรหัสผ่านเพื่อรับข้อมูลรับรองของคุณทันที ไม่ต้องใช้หมายเลขโทรศัพท์สำหรับกระบวนการนี้

ตั้งค่า URL ฐานของคุณเป็น https://api.groqaiapikey.com/v1 ในการกำหนดค่าไคลเอนต์ของคุณ จุดปลายนี้รองรับ SDK มาตรฐานของ OpenAI ทำให้คุณสามารถเปลี่ยนผู้ให้บริการได้โดยไม่ต้องเขียนลอจิกการผสานรวมใหม่ คุณต้องการเพียงคีย์ที่ใช้งานอยู่หนึ่งคีย์ต่อบัญชี เนื่องจากการสร้างคีย์ใหม่จะแทนที่คีย์ก่อนหน้าทันที

คำขอครั้งแรก: การส่ง prompt ไปยัง /v1/chat/completions

ส่งคำขอ POST ไปยัง /v1/chat/completions ใช้คีย์ของคุณใน Authorization header. ตัวระบุโมเดลคือ uncensored, ซึ่งประมวลผลอินพุตข้อความและส่งเอาต์พุตข้อความโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย

ตรวจสอบว่าคุณตั้งค่า Content-Type header ให้ถูกต้องเพื่อหลีกเลี่ยงข้อผิดพลาด 404 ที่พบบ่อย API ของเราไม่รองรับ embeddings การสร้างภาพ หรือการประมวลผลเสียง ดังนั้นให้มุ่งเน้น payload ของคุณไปที่ chat completions เท่านั้น วิธีการโดยตรงนี้ทำให้คุณได้รับราคาโทเค็นที่โปร่งใสโดยไม่มีค่าใช้จ่ายส่วนเพิ่มจากการเป็นพร็อกซีหลายผู้ให้บริการ

ติดตั้ง SDK: ไลบรารีที่เข้ากันได้กับ OpenAI

ติดตั้งแพ็กเกจ Python ทางการของ OpenAI เพื่อโต้ตอบกับจุดปลายของเราโดยใช้วิธีการที่คุ้นเคย ไลบรารีนี้จะจัดการการตรวจสอบสิทธิ์และการทำ JSON serialization โดยอัตโนมัติเมื่อคุณชี้ไปยัง URL พื้นฐานของคุณ คุณสามารถใช้โครงสร้างโค้ดเดียวกับที่ใช้กับ GPT-4 แต่ใช้โมเดล uncensored ของเรา

สำหรับนักพัฒนา JavaScript ให้ติดตั้ง openai แพ็กเกจ Node.js ทั้งสองสภาพแวดล้อมอนุญาตให้คุณทับ URL พื้นฐานได้ง่าย ความเข้ากันได้นี้หมายความว่าคุณสามารถเปลี่ยนผู้ให้บริการ LLM ได้โดยการเปลี่ยนบรรทัดการกำหนดค่าเพียงสองบรรทัดในโค้ดของคุณ

การจัดการสตรีมมิ่ง: SSE และการใช้งานโทเค็น

เปิดใช้งานการสตรีมโดยตั้งค่า stream: true ในพารามิเตอร์ของคำขอของคุณ API ส่งคืน Server-Sent Events (SSE) ที่ส่งโทเค็นแบบเพิ่มทีละน้อยขณะสร้าง ซึ่งช่วยลดความล่าช้าที่ผู้ใช้รับรู้เมื่อรอคำตอบยาว

สถิติการใช้งานโทเค็นจะปรากฏเฉพาะในชิ้นข้อมูลสุดท้ายของสตรีม คุณต้องรวมค่าต่างเหล่านี้เพื่อคำนวณโทเค็นทั้งหมดที่ใช้ไปสำหรับการเรียกเก็บเงิน ข้อผิดพลาดและการปฏิเสธจะไม่มีการเรียกเก็บเงิน ดังนั้นคุณสามารถสตรีมได้อย่างปลอดภัยโดยไม่ต้องกังวลเกี่ยวกับค่าใช้จ่ายที่ไม่คาดคิดสำหรับคำขอที่ล้มเหลว

พารามิเตอร์ขั้นสูง: อุณหภูมิ โหมด JSON และเครื่องมือ

ใช้ temperature และ top_p เพื่อควบคุมความสุ่มและความสร้างสรรค์ในการตอบกลับของคุณ ตั้งค่า response_format เพื่อ {"type": "json_object"} เพื่อบังคับเอาต์พุต JSON ที่มีโครงสร้างสำหรับการแยกวิเคราะห์ที่เชื่อถือได้ในแอปพลิเคชันของคุณ ซึ่งจำเป็นสำหรับการสร้าง API แชทบอท NSFW ที่แข็งแกร่งหรือเครื่องมือแยกข้อมูล

เปิดใช้งานการเรียกใช้ฟังก์ชันโดยให้ tools array. โมเดลรองรับนิยามเครื่องมือมาตรฐานและสามารถเลือกเรียกฟังก์ชันตามบริบทของ prompt ของคุณ คุณยังสามารถตั้งค่า max_tokens to 16,000, which is the maximum output per request. The context window supports 100,000 tokens total, including both prompt and completion.

ข้อจำกัด, ข้อผิดพลาด และรายละเอียดเฉพาะของการเรียกเก็บเงิน

คาดหวังข้อผิดพลาด 401 หาก key ของคุณไม่ถูกต้อง ข้อผิดพลาด 402 หากเครดิตที่เติมไว้ไม่เพียงพอ และข้อผิดพลาด 429 หากเกินอัตราจำกัด คุณจำกัดอยู่ที่ 300 คำขอต่อนาทีและ 8 คำขอพร้อมกันต่อ key body ของคำขอต้องไม่เกิน 8 MB

ราคาอยู่ที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens การเติมเงินใช้คริปโตเท่านั้น (USDT บน TRC20 หรือ USDC บน Base) ตั้งแต่ $20 ถึง $500 คุณจะได้รับโบนัส 5% เมื่อเติม $50, 10% เมื่อเติม $100 และ 15% เมื่อเติม $200 เครดิตแบบเติมเงินของคุณไม่หมดอายุ ดังนั้นคุณสามารถใช้งานได้เมื่อใดก็ตามที่ต้องการ

cURL

Copycurl https://api.groqaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API rate limit?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การสตรีม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)