GroqAiApiPanduan Cepat API LLM Tanpa Sensor
Panduan Cepat API LLM Tanpa Sensor
Panduan ini menunjukkan kepada pengembang cara mengintegrasikan API LLM tanpa sensor kami menggunakan pustaka kompatibel OpenAI standar. Anda akan belajar cara autentikasi, mengirim permintaan, dan menangani streaming dengan endpoint langsung kami.
Prasyarat: Kunci API dan URL dasar Anda
Mulai dengan membuat groq ai api key melalui halaman Dapatkan Kunci API. Anda dapat masuk dengan Google atau menggunakan email dan kata sandi untuk menerima kredensial Anda secara instan. Tidak diperlukan nomor telepon untuk proses ini.
Atur URL dasar Anda menjadi https://api.groqaiapikey.com/v1 dalam konfigurasi klien Anda. Endpoint ini mendukung SDK OpenAI standar, memungkinkan Anda mengganti penyedia tanpa menulis ulang logika integrasi Anda. Anda hanya memerlukan satu kunci aktif per akun, karena menghasilkan kunci baru akan menggantikan kunci sebelumnya secara langsung.
Permintaan pertama: Mengirimkan prompt ke /v1/chat/completions
Kirim permintaan POST ke /v1/chat/completions menggunakan kunci Anda di dalam Authorization header. Identifier modelnya adalah uncensored, yang memproses input teks dan mengembalikan output teks tanpa penolakan konten untuk penggunaan dewasa yang sah.
Pastikan Anda mengatur Content-Type header dengan benar untuk menghindari kesalahan 404 umum. API kami tidak mendukung embedding, pembuatan gambar, atau pemrosesan audio, jadi fokuskan payload Anda pada penyelesaian obrolan. Pendekatan langsung ini memastikan Anda mendapatkan harga token transparan tanpa biaya proxy multi-penyedia.
Instal SDK: Library kompatibel OpenAI
Instal paket Python resmi OpenAI untuk berinteraksi dengan endpoint kami menggunakan metode yang sudah familiar. Perpustakaan ini menangani autentikasi dan serialisasi JSON secara otomatis saat Anda mengarahkannya ke URL dasar kami. Anda dapat menggunakan struktur kode yang sama seperti untuk GPT-4, tetapi dengan model uncensored kami.
Untuk pengembang JavaScript, instal openai Paket Node.js. Kedua lingkungan memungkinkan Anda mengganti URL dasar dengan mudah. Kompatibilitas ini berarti Anda dapat beralih antara penyedia LLM berbeda hanya dengan mengubah dua baris konfigurasi dalam kode Anda.
Menangani streaming: SSE dan penggunaan token
Aktifkan streaming dengan mengatur stream: true dalam parameter permintaan Anda. API mengembalikan Server-Sent Events (SSE) yang mengirimkan token secara bertahap saat token tersebut dihasilkan. Ini mengurangi latensi yang dirasakan bagi pengguna yang menunggu respons panjang.
Statistik penggunaan token hanya disertakan dalam potongan terakhir stream. Anda harus mengakumulasi delta ini untuk menghitung total token yang dikonsumsi untuk tujuan penagihan. Kesalahan dan penolakan tidak menimbulkan biaya, sehingga Anda dapat melakukan streaming dengan aman tanpa khawatir tentang biaya tak terduga untuk permintaan yang gagal.
Parameter lanjutan: Suhu, mode JSON, dan alat
Gunakan temperature dan top_p untuk mengontrol acak dan kreativitas dalam respons Anda. Tetapkan response_format ke {"type": "json_object"} untuk memaksa output JSON terstruktur agar parsing andal di aplikasi Anda. Ini penting untuk membangun API chatbot NSFW yang kuat atau alat ekstraksi data.
Aktifkan pemanggilan fungsi dengan menyediakan sebuah tools array. Model mendukung definisi alat standar dan dapat memilih untuk memanggil fungsi berdasarkan konteks prompt Anda. Anda juga dapat mengatur max_tokens ke 16.000, yang merupakan output maksimum per permintaan. Jendela konteks mendukung total 100.000 token, termasuk prompt dan completion.
Batas, error, dan rincian penagihan
Diharapkan error 401 jika kunci Anda tidak valid, error 402 jika Anda memiliki kredit prabayar tidak mencukupi, dan error 429 jika Anda melebihi batas laju. Anda dibatasi hingga 300 permintaan per menit dan 8 permintaan simultan per kunci. Badan permintaan harus tetap di bawah 8 MB.
Harga adalah $0.15 per 1M token input dan $0.50 per 1M token output. Pengisian ulang hanya crypto (USDT di TRC20 atau USDC di Base) mulai dari $20 hingga $500. Anda mendapatkan bonus 5% untuk $50, 10% untuk $100, dan 15% untuk $200. Kredit prabayar Anda tidak pernah kedaluwarsa, sehingga Anda dapat menggunakannya kapan saja Anda butuhkan.
cURL
curl https://api.groqaiapikey.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the current API rate limit?"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.groqaiapikey.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.groqaiapikey.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streaming
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Pertanyaan yang sering diajukan
Bagaimana cara mendapatkan kunci API AI groq saya?
Buka halaman Dapatkan Kunci API dan masuk dengan Google atau alamat email. Kunci Anda ditampilkan segera setelah pendaftaran, tanpa memerlukan nomor telepon. Anda dapat membuat kunci baru kapan saja untuk menggantikan kunci lama.
Apakah API ini kompatibel dengan SDK OpenAI?
Ya, endpoint kami mengikuti protokol penyelesaian obrolan OpenAI. Anda dapat menggunakan pustaka Python dan Node.js OpenAI resmi hanya dengan mengubah URL dasar ke alamat API kami. Ini memungkinkan Anda menggunakan parameter standar seperti temperature dan stream.
Apa yang terjadi jika saya mendapatkan error 402?
Kesalahan 402 berarti kredit prabayar Anda telah habis. Anda dapat mengisi ulang menggunakan USDT di TRC20 atau USDC di Base melalui dasbor. Pengisian dimulai dari $20, dan Anda menerima kredit bonus tergantung pada jumlah yang disetorkan.
Dapatkan kunci API Anda
Daftar, ambil kunci, dan perbarui URL dasar Anda. Itu saja yang diperlukan untuk konfigurasi.