Ghid de începere rapidă API LLM fără cenzură

Precondiții: cheia ta API și URL-ul de bază

Începeți prin a genera groq ai api key prin pagina Get API key. Te poți autentifica cu Google sau folosi un email și o parolă pentru a primi credentialul instantaneu. Nu este necesar un număr de telefon pentru acest proces.

Configurați URL-ul de bază la https://api.groqaiapikey.com/v1 în configurația clientului tău. Acest endpoint suportă SDK-urile standard OpenAI, permițându-ți să schimbi furnizorul fără a rescrie logica de integrare. Ai nevoie doar de o singură cheie activă per cont, deoarece generarea unei noi chei înlocuiește imediat pe cea precedentă.

Prima cerere: Trimiterea unui prompt către /v1/chat/completions

Trimite o cerere POST la /v1/chat/completions utilizând cheia ta în Authorization header., Identificatorul modelului este simplu uncensored, care procesează intrări de text și returnează ieșiri de text fără refuzuri de conținut pentru uz adult licit.

Asigură-te că setezi Content-Type header corect pentru a evita erorile 404 comune. API-ul nostru nu suportă embeddings, generarea de imagini sau procesarea audio, așa că menține payload-urile focalizate pe completări chat. Această abordare directă asigură prețuri transparente pentru tokeni, fără suprataxa intermediarilor multi-vânzători.

Instalează SDK-ul: biblioteci compatibile cu OpenAI

Instalează pachetul oficial Python OpenAI pentru a interacționa cu endpoint-ul nostru folosind metode familiare. Această bibliotecă gestionează automat autentificarea și serializarea JSON când îl indici către URL-ul nostru de bază. Poți folosi aceeași structură de cod pe care ai folosi-o pentru GPT-4, dar cu modelul nostru uncensored.

Pentru dezvoltatorii JavaScript, instalați openai Pachet Node.js. Ambele medii vă permit să suprascrieți ușor URL-ul de bază. Această compatibilitate înseamnă că puteți comuta între diferiți furnizori LLM modificând doar două linii de configurare în codul dvs.

Gestionarea streaming-ului: SSE și consumul de tokeni

Activați streaming-ul setând stream: true în parametrii solicitării. API-ul returnează Evenimente trimise de server (SSE) care livrează tokenii incremental pe măsură ce sunt generați. Acest lucru reduce latența percepută pentru utilizatorii care așteaptă răspunsuri lungi.

Statisticile privind utilizarea tokenilor sunt incluse doar în ultimul fragment al fluxului. Trebuie să acumulezi aceste diferențe pentru a calcula numărul total de tokeni consumați în scopuri de facturare. Erorile și refuzurile nu generează taxe, așa că poți folosi streaming-ul în siguranță, fără a te îngrijora de costuri neașteptate pentru cererile eșuate.

Parametri avansați: Temperatura, mod JSON și instrumente

Utilizare temperature și top_p pentru a controla aleatorietatea și creativitatea în răspunsurile tale. Setează response_format pentru {"type": "json_object"} pentru a forca un output JSON structurat pentru parsarea fiabilă în aplicațiile dvs. Acest lucru este esențial pentru construirea unor API-uri robuste de chatbot NSFW sau a instrumentelor de extragere a datelor.

Activează apelarea de funcții furnizând un tools array. Modelul suportă definiții standard de instrumente și poate alege să apeleze funcții pe baza contextului promptului tău. Poți seta, de asemenea, max_tokens că 16.000, care este output-ul maxim per solicitare. Fereastra de context suportă 100.000 de tokeni în total, inclusiv atât promptul, cât și completarea.

Limitări, erori și aspecte specifice de facturare

Așteptați-vă la o eroare 401 dacă cheia ta este invalidă, o eroare 402 dacă ai credit preplătit insuficient și o eroare 429 dacă depășești limita de rată. Ești limitat la 300 de cereri pe minut și 8 cereri concurente per cheie. Corpul cererii trebuie să rămână sub 8 MB.

Prețurile sunt de $0.15 per 1M tokeni de intrare și $0.50 per 1M tokeni de ieșire. Reîncărcările sunt doar în criptomonede (USDT pe TRC20 sau USDC pe Base) de la $20 la $500. Primești un bonus de 5% la $50, 10% la $100 și 15% la $200. Creditul tău preplătit nu expiră niciodată, așa că îl poți folosi ori de câte ori ai nevoie.

cURL

Copycurl https://api.groqaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API rate limit?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)