راهنمای شروع سریع API مدل زبانی بزرگ بدون سانسور

پیش‌نیازها: کلید API و URL پایه شما

ابتدا کلید groq ai api key از طریق صفحه دریافت کلید API. می‌توانید با Google وارد شوید یا از ایمیل و رمز عبور برای دریافت فوری اعتبارنامه خود استفاده کنید. برای این فرآیند نیازی به شماره تلفن نیست.

URL پایه خود را به https://api.groqaiapikey.com/v1 در پیکربندی کلاینت خود. این نقطه پایانی از SDKهای استاندارد OpenAI پشتیبانی می‌کند و به شما امکان می‌دهد بدون بازنویسی منطق یکپارچه‌سازی خود، ارائه‌دهندگان را تغییر دهید. شما فقط به یک کلید فعال برای هر حساب نیاز دارید، زیرا ایجاد یک کلید جدید، بلافاصله کلید قبلی را جایگزین می‌کند.

اولین درخواست: ارسال یک پرامپت به /v1/chat/completions

یک درخواست POST به /v1/chat/completions با استفاده از کلید خود در Authorization header. شناسه مدل به سادگی uncensored, که ورودی‌های متنی را پردازش کرده و خروجی‌های متنی بدون رد محتوای بزرگسالان قانونی برمی‌گرداند.

اطمینان حاصل کنید که Content-Type هدر را به درستی وارد کنید تا از خطاهای رایج 404 جلوگیری شود. API ما از embedding، تولید تصویر یا پردازش صوت پشتیبانی نمی‌کند، بنابراین پیکربندی‌های خود را بر تکمیل‌های چت متمرکز نگه دارید. این رویکرد مستقیم تضمین می‌کند که شما قیمت‌گذاری شفاف توکن را بدون هزینه واسطه چند-عرضه‌کننده دریافت کنید.

نصب SDK: کتابخانه‌های سازگار با OpenAI

پکیج رسمی پایتون OpenAI را نصب کنید تا با انتهای‌کار ما با استفاده از روش‌های آشنا تعامل داشته باشید. این کتابخانه احراز هویت و سریال‌سازی JSON را به‌طور خودکار مدیریت می‌کند وقتی آن را به URL پایه ما متصل می‌کنید. می‌توانید از همان ساختار کدی که برای GPT-4 استفاده می‌کنید، با مدل بدون سانسور ما استفاده کنید.

برای توسعه‌دهندگان جاوااسکریپت، بسته openai پکیج Node.js. هر دو محیط به شما امکان می‌دهند URL پایه را به راحتی تغییر دهید. این سازگاری به این معنی است که می‌توانید با تغییر تنها دو خط پیکربندی در کد خود، بین ارائه‌دهندگان مختلف LLM جابجا شوید.

مدیریت استریم: SSE و مصرف توکن

استریمینگ را با تنظیم stream: true در پارامترهای درخواست. API رویدادهای ارسال‌شده توسط سرور (SSE) را برمی‌گرداند که توکن‌ها را به صورت افزایشی هنگام تولید تحویل می‌دهند. این تاخیر ادراک‌شده را برای کاربران منتظر پاسخ‌های طولانی کاهش می‌دهد.

آمار مصرف توکن فقط در آخرین قطعه استریم گنجانده شده است. باید این تغییرات را جمع‌آوری کنید تا توکن‌های مصرف شده برای اهداف صورت‌حساب را محاسبه کنید. خطاها و رد شدن درخواست‌ها هزینه‌ای ندارند، بنابراین می‌توانید با اطمینان استریم کنید و نگران هزینه‌های غیرمنتظره برای درخواست‌های ناموفق نباشید.

پارامترهای پیشرفته: Temperature، حالت JSON و ابزارها

استفاده temperature و top_p برای کنترل تصادفی‌سازی و خلاقیت در پاسخ‌های خود. تنظیم response_format به {"type": "json_object"} برای اجبار به خروجی JSON ساختاریافته برای پارسینگ قابل اعتماد در برنامه‌های شما. این برای ساخت APIهای چت‌بات NSFW مقاوم یا ابزارهای استخراج داده ضروری است.

فعال‌سازی فراخوانی تابع با ارائه یک tools آرایه. مدل تعاریف ابزار استاندارد را پشتیبانی کرده و می‌تواند بر اساس زمینه دستورالعمل شما توابع را فراخوانی کند. همچنین می‌توانید max_tokens to 16,000, which is the maximum output per request. The context window supports 100,000 tokens total, including both prompt and completion.

Limits, errors, and billing specifics

انتظار خطای 401 در صورت نامعتبر بودن کلید شما، خطای 402 در صورت ناکافی بودن اعتبار پیش‌پرداخت و خطای 429 در صورت عبور از محدودیت نرخ را داشته باشید. شما به ۳۰۰ درخواست در دقیقه و ۸ درخواست همزمان به ازای هر کلید محدود هستید. بدنه درخواست باید کمتر از ۸ مگابایت باشد.

قیمت‌ها ۰.۱۵ دلار به ازای ۱ میلیون توکن ورودی و ۰.۵۰ دلار به ازای ۱ میلیون توکن خروجی است. شارژ‌ها فقط با ارز دیجیتال (USDT روی شبکه TRC20 یا USDC روی شبکه Base) از ۲۰ تا ۵۰۰ دلار امکان‌پذیر است. برای ۵۰ دلار ۵٪، برای ۱۰۰ دلار ۱۰٪ و برای ۲۰۰ دلار ۱۵٪ اعتبار هدیه دریافت می‌کنید. اعتبار پیش‌پرداخت شما منقضی نمی‌شود، بنابراین می‌توانید هر زمان که نیاز داشتید از آن استفاده کنید.

cURL

Copycurl https://api.groqaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API rate limit?"}]
  }'

پایتون

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

جریان‌سازی

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)