Przewodnik szybkiego startu z API LLM bez cenzury

Wymagania wstępne: Twój klucz API i Base URL

Zacznij od wygenerowania swojego groq ai api key poprzez stronę Pobierz klucz API. Możesz zalogować się przez Google lub użyć e-maila i hasła, aby natychmiast otrzymać swoje dane logowania. Nie jest wymagany numer telefonu w tym procesie.

Skonfiguruj swój base URL na https://api.groqaiapikey.com/v1 w konfiguracji klienta. Ten endpoint obsługuje standardowe biblioteki OpenAI SDK, pozwalając na zamianę dostawcy bez przepisywania logiki integracji. Potrzebujesz tylko jednego aktywnego klucza na konto, ponieważ wygenerowanie nowego natychmiast zastępuje poprzedni klucz.

Pierwsze żądanie: Wysyłanie promptu do /v1/chat/completions

Wyślij żądanie POST do /v1/chat/completions używając swojego klucza w Authorization Nagłówek. Identyfikator modelu to po prostu uncensored, który przetwarza wejścia tekstowe i zwraca wyjścia tekstowe bez odmów treści dla prawnego użytku dorosłego.

Upewnij się, że ustawisz Content-Type nagłówek poprawnie, aby uniknąć powszechnych błędów 404. Nasze API nie obsługuje osadzania (embeddings), generowania obrazów ani przetwarzania audio, więc trzymaj się payloadów skupionych na uzupełnianiu czatu. To bezpośrednie podejście zapewnia przejrzyste ceny tokenów bez narzutów pośrednictwa wielu dostawców.

Zainstaluj SDK: biblioteki kompatybilne z OpenAI

Zainstaluj oficjalny pakiet OpenAI dla Pythona, aby komunikować się z naszym endpointem, używając znanych metod. Ta biblioteka automatycznie obsługuje uwierzytelnianie i serializację JSON, gdy wskażesz ją na nasz adres bazowy. Możesz użyć tej samej struktury kodu, której używałbyś dla GPT-4, ale z naszym modelem uncensored.

Dla programistów JavaScript zainstaluj openai Pakiet Node.js. Oba środowiska pozwalają na łatwe nadpisanie bazowego URL. Ta kompatybilność oznacza, że możesz przełączać się między różnymi dostawcami LLM, zmieniając tylko dwie linie konfiguracji w kodzie.

Obsługa strumieniowania: SSE i zużycie tokenów

Włącz strumieniowanie, ustawiając stream: true w parametrach żądania. API zwraca zdarzenia wysyłane serwerowo (SSE), które dostarczają tokeny inkrementalnie w miarę ich generowania. Zmniejsza to postrzeganą opóźnienie dla użytkowników oczekujących na długie odpowiedzi.

Statystyki użycia tokenów są uwzględnione tylko w końcowym kawałku strumienia. Musisz zsumować te delta, aby obliczyć całkowitą liczbę zużytych tokenów do celów rozliczeniowych. Błędy i odrzucenia nie generują kosztów, więc możesz strumieniować bezpiecznie, nie martwiąc się nieoczekiwanymi kosztami za nieudane żądania.

Zaawansowane parametry: tryb JSON, narzędzia i temperatura

Użyj temperature i top_p do kontrolowania losowości i kreatywności w odpowiedziach. Ustaw response_format do {"type": "json_object"} aby wymusić strukturalny wynik JSON dla niezawodnego parsowania w Twoich aplikacjach. Jest to niezbędne do budowania niezawodnych API czatu NSFW lub narzędzi do wyodrębniania danych.

Włącz wywoływanie funkcji poprzez dostarczenie tools tablicy. Model obsługuje standardowe definicje narzędzi i może wybrać wywołanie funkcji na podstawie kontekstu Twojego promptu. Możesz również ustawić max_tokens to 16,000, which is the maximum output per request. The context window supports 100,000 tokens total, including both prompt and completion.

Limity, błędy i szczegóły rozliczeń

Oczekuj błędu 401, jeśli Twój klucz jest nieprawidłowy, błędu 402, jeśli masz niewystarczający kredyt z góry, i błędu 429, jeśli przekroczysz limit szybkości. Jesteś ograniczony do 300 żądań na minutę i 8 żądań współbieżnych na klucz. Ciało żądania musi pozostać poniżej 8 MB.

Ceny wynoszą $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych. Doładowania są dostępne tylko w kryptowalutach (USDT na TRC20 lub USDC na Base) od $20 do $500. Otrzymujesz bonus 5% przy wpłacie $50, 10% przy $100 i 15% przy $200. Twój kredyt prepay nigdy nie wygasa, więc możesz go użyć, gdy tylko będzie Ci potrzebny.

cURL

Copycurl https://api.groqaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API rate limit?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)