Epäsuodattamaton LLM API -pika-aloitusopas

Edellytykset: API-avaimesi ja perus-URL

Aloita groq ai api key Get API key -sivun kautta. Voit kirjautua sisään Googlella tai käyttää sähköpostia ja salasanaa saadaksesi tunnuksesi välittömästi. Tähän prosessiin ei tarvita puhelinnumeroa.

Aseta base URL muotoon https://api.groqaiapikey.com/v1 asiakasasetuksissasi. Tämä päätepiste tukee standardia OpenAI SDK:ta, mikä mahdollistaa toimittajan vaihdon ilman integraatiologikan uudelleenkirjoittamista. Tarvitset vain yhden aktiivisen avain tilille, sillä uuden luominen korvaa edellisen avain välittömästi.

Ensimmäinen pyyntö: Syötteen lähettäminen päätepisteeseen /v1/chat/completions

Lähetä POST-pyyntö osoitteeseen /v1/chat/completions avaimellasi Authorization header. Mallin tunniste on yksinkertaisesti uncensored, joka käsittelee tekstisisäntöjä ja palauttaa tekstilähtöjä ilman sisältökelpoisuuden kieltoja lailliseen aikuisisisältöön.

Varmista, että aseta Content-Type header oikein välttääksesi yleiset 404-virheet. API:emme ei tue upotuksia, kuvagenerointia tai äänenkäsittelyä, joten pidä payloadt keskittyneinä keskustelujen täydennyksiin. Tämä suora lähestymistapa takaa läpinäkyvän tokenhinnoittelun ilman monen toimittajan välityspalvelun lisäkuluja.

Asenna SDK: OpenAI-yhteensopivat kirjastot

Asenna virallinen OpenAI:n Python-paketti vuorovaikutukseen päätepisteemme kanssa tutuilla menetelmillä. Tämä kirjasto hoitaa autentikoinnin ja JSON-serialisoinnin automaattisesti, kun osoitat sen palveluntarjoajamme base URL -osoitteeseen. Voit käyttää samaa koodirakennetta kuin GPT-4:n kanssa, mutta palveluntarjoajamme uncensored-mallilla.

JavaScript-kehittäjille asenna openai Node.js-paketti. Molemmat ympäristöt mahdollistavat perus-URL:n helposti ylikirjoittamisen. Tämä yhteensopivuus tarkoittaa, että voit vaihtaa eri LLM-toimittajien välillä muuttamalla vain kahta konfiguraatioriviä koodissasi.

Virran virtausten käsittely: SSE ja token-käyttö

Ota streamaus käyttöön asettamalla stream: true pyyntöparametreissa. Sovellusliittymä palauttaa Server-Sent Events (SSE) -viestejä, jotka toimittavat tokenit tuotannon edetessä. Tämä vähentää käyttäjien kokemaa viiveellisyyttä pitkien vastausten odotuksessa.

Token-käystilastot sisällytetään vain streamin lopulliseen palaseen. Sinun on kumuloitava nämä erotukset laskeaksesi kokonaiskulutetut tokenit laskutustarkoituksiin. Virheet ja hylkäykset eivät aiheuta kustannuksia, joten voit streamata turvallisesti huolehtimatta yllättävistä kuluista epäonnistuneista pyynnöistä.

Edistyneet parametrit: Lämpötila, JSON-tila ja työkalut

Käyttö temperature ja top_p hallitsemaan satunnaisuutta ja luovuutta vastauksissasi. Aseta response_format vastaan {"type": "json_object"} pakottaa rakenteellisen JSON-tuloksen luotettavaan jäsentämiseen sovelluksissasi. Tämä on välttämätöntä rakentaa vahvoja NSFW-chatbot-API:ita tai tietojen erottelutyökaluja.

Ota käyttöön toimintokutsut tarjoamalla tools taulukkoa. Malli tukee standardia työkalumäärittelyä ja voi valita funktioiden kutsumisen kehotekontekstisi perusteella. Voit myös asettaa max_tokens arvoon 16 000, joka on enimmäistulostus pyyntöä kohti. Konteksti-ikkuna tukee yhteensä 100 000 tokenia, mukaan lukien sekä prompt että completion.

Rajoitukset, virheet ja laskutuksen yksityiskohdat

Oleta 401-virhe, jos avain on virheellinen, 402-virhe, jos esimaksukreditti ei riitä, ja 429-virhe, jos ylität nopeusrajoituksen. Sinulla on rajoitus 300 pyyntöön minuutissa ja 8 samanaikaista pyyntöä per avain. Pyynnön rungon on pysyttävä alle 8 Mt.

Hinnat ovat $0.15 per 1M syöttötokenia ja $0.50 per 1M lähtötokenia. Topaukset ovat vain kryptoa (USDT TRC20:ssä tai USDC Basessa) 20–500 $ välillä. Saat 5 % bonuksen 50 $:sta, 10 % 100 $:sta ja 15 % 200 $:sta. Esimaksukrediittisi vanhenee koskaan, joten voit käyttää sitä milloin haluat.

cURL

Copycurl https://api.groqaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API rate limit?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)