Mula Cepat: Integrasi API LLM Tanpa Sensor Kami

Sahkan dan Konfigurasi URL Asas

Kunci API anda memberikan akses segera ke hujung penyelesaian chat. Jana kunci melalui Google atau e-mel pada papan pemuka dan tampalkannya ke dalam pembolehubah persekitaran anda. URL asas ialah https://api.cheapaiapikeys.com/v1 yang berfungsi dengan mana-mana klien SDK OpenAI standard.

• Tetapkan OPENAI_API_KEY ke rentetan yang dijana anda.
• Tindih base_url ke titik ke pelayan yang dihoskan kami.
• Sahkan sambungan dengan memanggil GET /v1/models untuk menyenaraikan model yang tersedia.

Copycurl https://api.cheapaiapikeys.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List three common regex patterns for validating email addresses"}]
  }'

Hantar Permintaan Penyelesaian Chat Pertama Anda

Hantar input teks dan terima teks yang dijana menggunakan struktur penyelesaian chat standard. Model uncensored tunggal kami memproses permintaan tanpa menolak topik dewasa yang sah atau kontroversi. Anda boleh menyesuaikan parameter seperti temperature dan top_p untuk mengawal rawakan.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.cheapaiapikeys.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Aktifkan Aliran dan Tangani Acara SSE

Aktifkan penghantaran token masa nyata dengan menetapkan stream: true dalam permintaan anda. pelayan mengembalikan Acara Dihantar Pelayan (SSE) yang mesti anda uraikan secara berperingkat. Butiran penggunaan token muncul dalam pecahan akhir penstriman. Pendekatan ini mengurangkan latensi yang dirasakan untuk respons panjang.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.cheapaiapikeys.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Gunakan Panggilan Fungsi dan Mod JSON

Takrifkan alat dalam payload permintaan anda untuk membolehkan output terstruktur atau pelaksanaan fungsi luaran. Gunakan response_format: {type: "json_object"} untuk memaksa pematuhan JSON yang ketat. Model menyokong tool_choice untuk kawalan tepat atas fungsi mana yang dipanggilnya. Ini memastikan penguraian yang boleh dipercayai untuk logik aplikasi anda.

Memahami Had Token dan Harga

Harga adalah telus pada $0.15 per juta token input dan $0.50 per juta token output. Ralat dan penolakan tidak menelan kredit. Jendela konteks menyokong 100,000 token secara keseluruhan. Permintaan yang melebihi had akan mengembalikan ralat had kadar 429. Pastikan muatan anda kekal di bawah 8 MB untuk mengelakkan ralat badan.

Tangani Ralat dan Kes Sempadan

Ralat lazim termasuk 401 untuk kunci tidak sah dan 402 untuk kredit tidak mencukupi. Status 429 menunjukkan anda telah melebihi 300 permintaan setiap minit. Gunakan penangguhan eksponen apabila mencuba semula selepas had kadar. Semak error object dalam respons JSON untuk butiran khusus. Bayaran balik tidak dikeluarkan, jadi pantau penggunaan anda dengan teliti.

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)