Ufiltreret LLM API Quickstart-guide

Forudsætninger: Din API-nøgle og base URL

Start med at generere din groq ai api key via siden Get API key. Du kan logge ind med Google eller bruge en e-mail og adgangskode for at modtage dine oplysninger øjeblikkeligt. Intet telefonnummer er påkrævet for denne proces.

Indstil din base URL til https://api.groqaiapikey.com/v1 i din klientkonfiguration. Dette endpoint understøtter de standard OpenAI SDK'er, hvilket giver dig mulighed for at skifte udbyder uden at omskrive din integrationslogik. Du har kun brug for én aktiv nøgle pr. konto, da generering af en ny erstatter den forrige nøgle øjeblikkeligt.

Første anmodning: Sendning af et prompt til /v1/chat/completions

Send en POST-forespørgsel til /v1/chat/completions ved hjælp af din nøgle i Authorization header. Modelidentifikatoren er blot uncensored, som behandler tekstinput og returnerer tekstoutput uden indholdsafvisninger til lovligt voksenbrug.

Sørg for, at du indstiller Content-Type header korrekt for at undgå almindelige 404-fejl. Vores API understøtter ikke embeddings, billedgenerering eller lydbehandling, så hold dine payloads fokuseret på chat-completions. Denne direkte tilgang sikrer, at du får gennemsigtig token-prissætning uden overhead for multi-vendor proxies.

Installer SDK: OpenAI-kompatible biblioteker

Installer den officielle OpenAI Python-pakke for at interagere med vores endpoint ved hjælp af velkendte metoder. Denne bibliotek håndterer autentificering og JSON-serialisering automatisk, når du peger det på vores base URL. Du kan bruge den samme kodestruktur, som du ville bruge til GPT-4, men med vores uncensored model.

Til JavaScript-udviklere, installer openai Node.js-pakke. Begge miljøer giver dig mulighed for nemt at overskrive base-URL. Denne kompatibilitet betyder, at du kan skifte mellem forskellige LLM-udbydere ved kun at ændre to konfigurationslinjer i din kode.

Håndtering af streaming: SSE og tokenforbrug

Aktivér streaming ved at indstille stream: true i dine request-parametre. API'et returnerer Server-Sent Events (SSE), der leverer tokens inkrementelt, mens de genereres. Dette reducerer den opfattede latens for brugere, der venter på lange svar.

Tokenforbrugsstatistikker er inkluderet kun i den sidste chunk af streamet. Du skal akkumulere disse deltas for at beregne det samlede forbrugte tokens til faktureringsformål. Fejl og afslag medfører ikke gebyrer, så du kan streame sikkert uden at bekymre dig om uventede omkostninger for mislykkede anmodninger.

Avancerede parametre: Temperatur, JSON-tilstand og værktøjer

Brug temperature og top_p til at kontrollere tilfældighed og kreativitet i dine svar. Indstil response_format til {"type": "json_object"} for at tvinge struktureret JSON-output til pålidelig parsing i dine applikationer. Dette er essentiel til at bygge robuste NSFW-chatbot-API'er eller dataudtræksværktøjer.

Aktiver funktionskald ved at angive en tools array. Modellen understøtter standard værktøjsdefinitioner og kan vælge at kalde funktioner baseret på din prompt-kontekst. Du kan også indstille max_tokens til 16.000, hvilket er det maksimale output pr. anmodning. Kontekstvinduet understøtter 100.000 tokens i alt, inklusive både prompt og completion.

Begrænsninger, fejl og faktureringsdetaljer

Forvent en 401-fejl, hvis din nøgle er ugyldig, en 402-fejl, hvis du har utilstrækkelig forudbetalt kredit, og en 429-fejl, hvis du overskrider hastighedsbegrænsningen. Du er begrænset til 300 anmodninger i minuttet og 8 samtidige anmodninger per nøgle. Anmodningskroppen skal holdes under 8 MB.

Priserne er $0.15 per 1M input tokens og $0.50 per 1M output tokens. Top-ups er kun crypto (USDT på TRC20 eller USDC på Base) fra $20 til $500. Du modtager en 5% bonus på $50, 10% på $100 og 15% på $200. Din forudbetalte kredit udløber aldrig, så du kan bruge den, når du har brug for det.

cURL

Copycurl https://api.groqaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API rate limit?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)