Οδηγός Γρήγορης Έναρξης API Αναισθησία LLM

Προαπαιτούμενα: Το API key σας και base URL

Ξεκινήστε δημιουργώντας το groq ai api key via the Get API key page. You can sign in with Google or use an email and password to receive your credential instantly. No phone number is required for this process.

Ορίστε το base URL σε https://api.groqaiapikey.com/v1 στην διαμόρφωση του πελάτη σας. Αυτό το endpoint υποστηρίζει τα τυπικά SDK της OpenAI, επιτρέποντάς σας να εναλλάξετε παρόχους χωρίς να ξαναγράψετε τη λογική της ενσωμάτωσής σας. Χρειάζεστε μόνο ένα ενεργό κλειδί ανά λογαριασμό, καθώς η δημιουργία ενός νέου αντικαθιστά αμέσως το προηγούμενο κλειδί.

Πρώτη αίτηση: Αποστολή εντολής στο /v1/chat/completions

Στείλτε ένα POST request στο /v1/chat/completions χρησιμοποιώντας το key σας στο Authorization header. Ο αναγνωριστικός κωδικός του μοντέλου είναι απλώς uncensored, το οποίο επεξεργάζεται εισόδους κειμένου και επιστρέφει εξόδους κειμένου χωρίς απορρίψεις περιεχομένου για νόμιμη χρήση ενήλικων.

Βεβαιωθείτε ότι ορίζετε το Content-Type header σωστά για να αποφύγετε κοινά σφάλματα 404. Το API μας δεν υποστηρίζει embeddings, δημιουργία εικόνων ή επεξεργασία ήχου, οπότε κρατήστε τα payloads σας εστιασμένα σε chat completions. Αυτή η άμεση προσέγγιση διασφαλίζει διαφανή τιμολόγηση tokens χωρίς κόστος πολλαπλών μεσάζοντων proxy.

Εγκαταστήστε το SDK: βιβλιοθήκες συμβατές με OpenAI

Εγκαταστήστε το επίσημο πακέτο Python της OpenAI για να αλληλεπιδράσετε με το endpoint μας χρησιμοποιώντας γνωστές μεθόδους. Αυτή η βιβλιοθήκη χειρίζεται αυτόματα την πιστοποίηση και τη σειριοποίηση JSON όταν το κατευθύνετε στη βάση URL μας. Μπορείτε να χρησιμοποιήσετε την ίδια δομή κώδικα που θα χρησιμοποιούσατε για GPT-4, αλλά με το μοντέλο μας χωρίς λογοκρισία.

Για προγραμματιστές JavaScript, εγκαταστήστε το openai Πακέτο Node.js. Και τα δύο περιβάλλοντα σας επιτρέπουν να υπερκαθορίσετε εύκολα τη βάση URL. Αυτή η συμβατότητα σημαίνει ότι μπορείτε να εναλλάξετε μεταξύ διαφορετικών παρόχων LLM αλλάζοντας μόνο δύο γραμμές διαμόρφωσης στον κώδικά σας.

Διαχείριση streaming: SSE και χρήση tokens

Ενεργοποιήστε streaming ρυθμίζοντας stream: true στις παραμέτρους του αιτήματός σας. Το API επιστρέφει Server-Sent Events (SSE) που παραδίδουν tokens σταδιακά καθώς παράγονται. Αυτό μειώνει την αντιλαμβανόμενη καθυστέρηση για τους χρήστες που περιμένουν μακρές απαντήσεις.

Τα στατιστικά χρήσης tokens περιλαμβάνονται μόνο στο τελικό chunk του stream. Πρέπει να συσσωρεύσετε αυτά τα deltas για να υπολογίσετε τα συνολικά tokens που καταναλώθηκαν για σκοπούς χρέωσης. Τα σφάλματα και οι απορρίψεις δεν επιβαρύνουν με κόστος, οπότε μπορείτε να κάνετε streaming με ασφάλεια χωρίς να ανησυχείτε για απροσδόκητο κόστος για αποτυχημένα αιτήματα.

Προηγμένες παράμετροι: Temperature, λειτουργία JSON και εργαλεία

Χρήση temperature και top_p για τον έλεγχο τυχαίοτητας και δημιουργικότητας στις απαντήσεις σας. Ορίστε response_format για {"type": "json_object"} για να επιβληθεί δομημένη έξοδος JSON για αξιόπιστη ανάλυση στις εφαρμογές σας. Αυτό είναι απαραίτητο για την κατασκευή ισχυρών APIs chatbot NSFW ή εργαλείων εξαγωγής δεδομένων.

Ενεργοποίηση κλήσης λειτουργιών παρέχοντας ένα tools array. Το μοντέλο υποστηρίζει τυπικούς ορισμούς εργαλείων και μπορεί να επιλέξει να καλέσει συναρτήσεις με βάση το πλαίσιο της εντολής σας. Μπορείτε επίσης να ορίσετε max_tokens σε 16.000, που είναι το μέγιστο output ανά αίτηση. Το context window υποστηρίζει 100.000 tokens συνολικά, συμπεριλαμβανομένου τόσο του prompt όσο και της συμπλήρωσης.

Όρια, σφάλματα και λεπτομέρειες χρέωσης

Αναμένεται σφάλμα 401 αν το key σας είναι μη έγκυρο, σφάλμα 402 αν έχετε ανεπαρκές προκαταβλημένο υπόλοιπο και σφάλμα 429 αν ξεπεράσετε το όριο ρυθμού. Περιορίζεστε σε 300 αιτήματα ανά λεπτό και 8 ταυτόχρονα αιτήματα ανά κλειδί. Το σώμα του αιτήματος πρέπει να παραμένει κάτω από 8 MB.

Οι τιμές είναι $0.15 ανά 1M input tokens και $0.50 ανά 1M output tokens. Οι προσθήκες κεφαλαίου είναι μόνο crypto (USDT στο TRC20 ή USDC στο Base) από $20 έως $500. Λαμβάνετε 5% bonus στα $50, 10% στα $100 και 15% στα $200. Το προκαταβληθέν credit σας δεν λήγει ποτέ, οπότε μπορείτε να το χρησιμοποιήσετε όποτε το χρειάζεστε.

cURL

Copycurl https://api.groqaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API rate limit?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ροή

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)