מדריך התחלה מהירה ל-API של LLM ללא צנזורה

דרישות מוקדמות: מפתח ה-API שלך וכתובת הבסיס

התחל על ידי יצירת ה- groq ai api key דרך עמוד קבלת מפתח API. אתה יכול להיכנס עם Google או להשתמש במייל וסיסמה כדי לקבל את האישור שלך מיידית. אין צורך במספר טלפון לתהליך זה.

הגדר את כתובת ה-URL הבסיסית שלך ל- https://api.groqaiapikey.com/v1 בתצורת הלקוח שלך. נקודת קצה זו תומכת ב-SDKs הסטנדרטיים של OpenAI, ומאפשרת לך להחליף ספקים ללא כתיבת לוגיקת האינטגרציה מחדש. אתה צריך רק מפתח פעיל אחד לכל חשבון, שכן יצירת מפתח חדש מחליפה את המפתח הקודם מיד.

בקשה ראשונה: שליחת פלט ל-/v1/chat/completions

שלחו בקשת POST ל /v1/chat/completions באמצעות המפתח שלך ב- Authorization header. מזהה המודל הוא פשוט uncensored, שמעבד קלטי טקסט ומחזיר פלט טקסט ללא סירובי תוכן לשימוש בוגר חוקי.

ודא שאתה מגדיר את Content-Type header כראוי כדי להימנע משגיאות 404 נפוצות. ה-API שלנו אינו תומך ב-embeddings, יצירת תמונות או עיבוד אודיו, כך שיש להתמקד בפלטות של השלמת צ'אט. גישה ישירה זו מבטיחה תמחור שקוף של טוקנים ללא עלות תיווך של ספקים מרובים.

התקן את ה-SDK: ספריות תואמות OpenAI

התקן את חבילת פייתון הרשמית של OpenAI כדי לפעול מול הנקודה שלנו באמצעות שיטות מוכרות. ספרייה זו מטפלת באימות וברצף JSON אוטומטית כאשר מצביעים אותה לכתובת הבסיס שלנו. ניתן להשתמש באותו מבנה קוד שבו היית משתמש עבור GPT-4, אך עם המודל ללא צנזורה שלנו.

למפתחי JavaScript, התקן את openai חבילת Node.js. שתי הסביבות מאפשרות לכם לשנות את כתובת הבסיס בקלות. תאימות זו אומרת שאתם יכולים להחליף בין ספקי LLM שונים על ידי שינוי של שתי שורות תצורה בלבד בקוד שלכם.

טיפול בזרימה: SSE ושימוש באסימונים

אפשרו זרימה על ידי הגדרת stream: true בפרמטרי הבקשה שלך. ה-API מחזיר אירועים שנשלחים מהשרת (SSE) שמספקים אסימונים בהדרגה ככל שהם נוצרים. זה מפחית את תחומת הזמן המוחשית עבור משתמשים הממתינים לתגובות ארוכות.

סטטיסטיקות שימוש בטוקנים כלולות רק בפריסה הסופית של הזרם. עליך לצבור את הדיeltas הללו כדי לחשב את סך הטוקנים שצרכו למטרות חיוב. שגיאות ודחיות אינן גורמות לחיוב, כך שניתן לסטרים בביטחון ללא חשש מעלויות מפתיעות עבור בקשות שנכשלו.

פרמטרים מתקדמים: טמפרטורה, מצב JSON וכלים

שימוש temperature וגם top_p לשליטה באקראיות וביצירתיות בתגובות שלך. הגדר response_format אל {"type": "json_object"} כדי לכפות פלט JSON מבני לניתוח אמין ביישומים שלך. זה חיוני לבניית APIs של צ'אטבוט NSFW חזקים או כלי חילוץ נתונים.

אפשרו קריאת פונקציות על ידי מתן tools מערך. המודל תומך בהגדרות כלים סטנדרטיות ויכול לבחור לקרוא לפונקציות בהתבסס על הקשר הפקודה שלך. ניתן גם להגדיר max_tokens ל-16,000, שהוא הפלט המקסימלי לכל בקשה. חלון ההקשר תומך ב-100,000 טוקנים בסך הכל, כולל גם פרומפט וגם השלמה.

מגבלות, שגיאות ופרטי תשלום

צפה לשגיאת 401 אם המפתח שלך לא חוקי, שגיאת 402 אם אין לך אשראי ששולם מראש, ושגיאת 429 אם תעבור את מגבלת הקצב. אתה מוגבל ל-300 בקשות לדקה ו-8 בקשות מקבילות לכל מפתח. גוף הבקשה חייב להישאר מתחת ל-8 MB.

המחירים הם $0.15 ל-1M טוקני קלט ו-$0.50 ל-1M טוקני פלט. טעינות הן רק באמצעות קריפטו (USDT על רשת TRC20 או USDC על רשת Base) בסכום של $20 עד $500. אתה מקבל בונוס של 5% על $50, 10% על $100, ו-15% על $200. האשראי המקודם שלך לא פג תוקף, כך שתוכל להשתמש בו בכל עת שתרצה.

cURL

Copycurl https://api.groqaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API rate limit?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)