Hướng dẫn nhanh API LLM không kiểm duyệt

Điều kiện tiên quyết: Khóa API và base URL của bạn

Bắt đầu bằng cách tạo groq ai api key thông qua trang Get API key. Bạn có thể đăng nhập bằng Google hoặc sử dụng email và mật khẩu để nhận thông tin xác thực ngay lập tức. Không yêu cầu số điện thoại cho quy trình này.

Thiết lập URL cơ sở của bạn thành https://api.groqaiapikey.com/v1 trong cấu hình máy khách của bạn. Điểm cuối này hỗ trợ các SDK OpenAI tiêu chuẩn, cho phép bạn chuyển đổi nhà cung cấp mà không cần viết lại logic tích hợp của mình. Bạn chỉ cần một khóa hoạt động cho mỗi tài khoản, vì việc tạo khóa mới sẽ thay thế khóa trước đó ngay lập tức.

Yêu cầu đầu tiên: Gửi prompt đến /v1/chat/completions

Gửi yêu cầu POST đến /v1/chat/completions sử dụng khóa của bạn trong Authorization header. Định danh mô hình đơn giản chỉ là uncensored, xử lý đầu vào văn bản và trả về đầu ra văn bản mà không có từ chối nội dung cho mục đích người trưởng thành hợp pháp.

Đảm bảo bạn đặt Content-Type header đúng cách để tránh các lỗi 404 phổ biến. API của chúng tôi không hỗ trợ embedding, tạo hình ảnh hoặc xử lý âm thanh, vì vậy hãy giữ trọng tâm các tải trọng của bạn vào các bản hoàn thành trò chuyện. Cách tiếp cận trực tiếp này đảm bảo bạn nhận được giá token minh bạch mà không có chi phí trung gian đa nhà cung cấp.

Cài đặt SDK: Các thư viện tương thích OpenAI

Cài đặt gói Python chính thức của OpenAI để tương tác với điểm cuối của chúng tôi bằng các phương thức quen thuộc. Thư viện này xử lý xác thực và tuần tự hóa JSON tự động khi bạn trỏ nó đến URL cơ sở của chúng tôi. Bạn có thể sử dụng cùng cấu trúc mã mà bạn sẽ dùng cho GPT-4, nhưng với mô hình không kiểm duyệt của chúng tôi.

Đối với nhà phát triển JavaScript, hãy cài đặt openai Gói Node.js. Cả hai môi trường đều cho phép bạn ghi đè URL cơ sở một cách dễ dàng. Sự tương thích này có nghĩa là bạn có thể chuyển đổi giữa các nhà cung cấp LLM khác nhau chỉ bằng cách thay đổi hai dòng cấu hình trong mã của mình.

Xử lý streaming: SSE và việc sử dụng token

Bật phát trực tiếp bằng cách đặt stream: true trong các tham số yêu cầu. API trả về Server-Sent Events (SSE) phân phối token từng phần khi chúng được tạo ra. Điều này giúp giảm độ trễ cảm nhận đối với người dùng đang chờ các phản hồi dài.

Thống kê sử dụng token chỉ được bao gồm trong chunk cuối cùng của luồng. Bạn phải tích hợp các delta này để tính toán tổng số token đã tiêu thụ cho mục đích tính phí. Lỗi và từ chối không phát sinh chi phí, vì vậy bạn có thể streaming an toàn mà không phải lo lắng về chi phí bất ngờ cho các yêu cầu thất bại.

Tham số nâng cao: Nhiệt độ, chế độ JSON và công cụ

Sử dụng temperature và top_p để kiểm soát tính ngẫu nhiên và sự sáng tạo trong các phản hồi của bạn. Đặt response_format để {"type": "json_object"} để bắt buộc đầu ra JSON có cấu trúc cho việc phân tích cú pháp đáng tin cậy trong các ứng dụng của bạn. Điều này rất cần thiết để xây dựng các API chatbot NSFW mạnh mẽ hoặc công cụ trích xuất dữ liệu.

Bật gọi hàm bằng cách cung cấp một tools mảng. Mô hình hỗ trợ các định nghĩa công cụ tiêu chuẩn và có thể chọn gọi các hàm dựa trên ngữ cảnh prompt của bạn. Bạn cũng có thể đặt max_tokens đến 16.000, đây là giới hạn đầu ra tối đa mỗi yêu cầu. Cửa sổ ngữ cảnh hỗ trợ tổng cộng 100.000 token, bao gồm cả prompt và phần hoàn thành.

Giới hạn, lỗi và chi tiết thanh toán

Dự kiến lỗi 401 nếu key của bạn không hợp lệ, lỗi 402 nếu bạn không có đủ tín dụng trả trước và lỗi 429 nếu bạn vượt quá giới hạn tốc độ. Bạn bị giới hạn ở 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi key. Body yêu cầu phải dưới 8 MB.

Giá là $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra. Nạp tiền chỉ bằng crypto (USDT trên TRC20 hoặc USDC trên Base) từ $20 đến $500. Bạn nhận được bonus 5% cho $50, 10% cho $100 và 15% cho $200. Tín dụng trả trước của bạn không bao giờ hết hạn, vì vậy bạn có thể sử dụng nó bất cứ khi nào bạn cần.

cURL

Copycurl https://api.groqaiapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current API rate limit?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.groqaiapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.groqaiapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)