Panduan Awal API LLM Tanpa Sensor

Prasyarat: Kunci API dan URL asas anda

Mula dengan menjana groq ai api key melalui halaman Dapatkan Kunci API. Anda boleh log masuk dengan Google atau menggunakan e-mel dan kata laluan untuk menerima kelayakan anda serta-merta. Tiada nombor telefon diperlukan untuk proses ini.

Tetapkan URL asas anda kepada https://api.groqaiapikey.com/v1 dalam konfigurasi klien anda. Akhir ini menyokong SDK OpenAI piawai, membolehkan anda menukar penyedia tanpa menulis semula logik integrasi anda. Anda hanya memerlukan satu kunci aktif per akaun, kerana menjana kunci baharu akan menggantikan kunci sebelumnya serta-merta.

Permintaan pertama: Menghantar prompt ke /v1/chat/completions

Hantar permintaan POST ke /v1/chat/completions menggunakan kunci anda dalam Authorization header. The model identifier is simply uncensored, yang memproses input teks dan mengembalikan output teks tanpa penolakan kandungan untuk penggunaan dewasa yang sah.

Pastikan anda menetapkan Content-Type header dengan betul untuk mengelakkan ralat 404 biasa. API kami tidak menyokong pengekodan semula, penjanaan imej, atau pemprosesan audio, jadi fokuskan payload anda pada penyelesaian sembang. Pendekatan langsung ini memastikan anda mendapat harga token telus tanpa kos perantara pembekal berbilang.

Pasang SDK: Perpustakaan serasi OpenAI

Pasang pakej Python rasmi OpenAI untuk berinteraksi dengan titik akhir kami menggunakan kaedah yang sudah dikenali. Perpustakaan ini mengendalikan pengesahan dan pengaturcaraan JSON secara automatik apabila anda arahkan ke URL asas kami. Anda boleh menggunakan struktur kod yang sama seperti yang anda gunakan untuk GPT-4, tetapi dengan model tanpa sensor kami.

Untuk pembangun JavaScript, pasang openai Pakej Node.js. Kedua-dua persekitaran membolehkan anda mengatasi URL asas dengan mudah. Keserasian ini bermakna anda boleh bertukar antara penyedia LLM berbeza hanya dengan mengubah dua baris konfigurasi dalam kod anda.

Menangani penstriman: SSE dan penggunaan token

Aktifkan aliran dengan menetapkan stream: true dalam parameter permintaan anda. API mengembalikan Server-Sent Events (SSE) yang menghantar token secara beransur-ansur apabila ia dijana. Ini mengurangkan latensi yang dirasakan untuk pengguna yang menunggu respons panjang.

Statistik penggunaan token termasuk hanya dalam segmen akhir aliran. Anda mesti mengumpul delta ini untuk mengira jumlah token yang digunakan untuk tujuan bil. Ralat dan penolakan tidak menjejaki caj, jadi anda boleh mengalir dengan selamat tanpa risau tentang kos tidak dijangka untuk permintaan yang gagal.

Parameter lanjutan: Suhu, mod JSON, dan alat

Gunakan temperature dan top_p untuk mengawal rawakan dan kreativiti dalam respons anda. Tetapkan response_format ke {"type": "json_object"} untuk memaksa output JSON berstruktur untuk penguraian yang boleh dipercayai dalam aplikasi anda. Ini penting untuk membina API chatbot NSFW yang kukuh atau alat pengekstrakan data.

Aktifkan panggilan fungsi dengan menyediakan tools array. Model menyokong definisi alat piawai dan boleh memilih untuk memanggil fungsi berdasarkan konteks prompt anda. Anda juga boleh menetapkan max_tokens to 16,000, which is the maximum output per request. The context window supports 100,000 tokens total, including both prompt and completion.

Had, ralat, dan spesifik pengebilan

Jangka ralat 401 jika kunci anda tidak sah, ralat 402 jika anda mempunyai kredit pra-dibayar yang tidak mencukupi, dan ralat 429 jika anda melebihi had kadar. Anda terhad kepada 300 permintaan setiap minit dan 8 permintaan serentak per kunci. Badan permintaan mesti kekal di bawah 8 MB.

Harga ialah $0.15 bagi setiap 1M token input dan $0.50 bagi setiap 1M token output. Pemuatan semula hanya menggunakan kripto (USDT pada TRC20 atau USDC pada Base) dari $20 hingga $500. Anda menerima bonus 5% pada $50, 10% pada $100, dan 15% pada $200. Kredit pra-bayar anda tidak akan luput, jadi anda boleh menggunakannya bila-bila masa anda perlukan.

cURL

Copycurl https://api.groqaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API rate limit?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)