Pika-aloitus: Integroi Uncensored LLM API

Todenna ja määritä Base URL -osoite

API-avaimesi antaa välittömän pääsyn chat-päätepisteeseen. Luo avain Google- tai sähköpostitunnuksella hallintapaneelista ja liitä se ympäristömuuttujiisi. Perus-URL on https://api.cheapaiapikeys.com/v1 joka toimii minkä tahansa standardin OpenAI SDK -asiakkaan kanssa.

• Aseta OPENAI_API_KEY luomaasi merkkijonoon.
• Ohita base_url osoittamaan isännöityä palvelinta.
• Vahvista yhteys kutsumalla GET /v1/models luettelo saatavilla olevista malleista.

Copycurl https://api.cheapaiapikeys.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List three common regex patterns for validating email addresses"}]
  }'

Lähetä ensimmäinen chat-valmispyyntösi

Lähetä tekstisyöte ja vastaanota generoitu teksti käyttäen standardia chat-completion-rakennetta. Yksi uncensored-mallimme käsittelee pyyntöjä hylkäämättä lainallisia aikuisaiheita tai kiistanalaisia aiheita. Voit säätää parametreja kuten temperature ja top_p hallitsemaan satunnaisuutta.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.cheapaiapikeys.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ota käyttöön suoratoisto ja käsittele SSE-tapahtumat

Ota käyttöön reaaliaikainen tokenitoimitus asettamalla stream: true pyynnössäsi. Palvelin palauttaa Server-Sent Events (SSE) -tekniikan, joka on jäsentävä askel askeleelta. Tokenkäyttötilastot ilmestyvät streamin viimeisessä osassa. Tämä lähestymistapa vähentää koettua viivettä pitkissä vastauksissa.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.cheapaiapikeys.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Käytä Function Calling -toimintoa ja JSON-tilaa

Määritä työkalut pyyntörunkoasi varten mahdollistaaksesi rakenteellisen tuloksen tai ulkoisten funktioiden suorituksen. Käytä response_format: {type: "json_object"} pakottaa tiukan JSON-yhteensopivuuden. Malli tukee tool_choice tarkkaan ohjaukseen, mitä toimintoja se kutsuu. Tämä varmistaa luotettavan jäsentämisen sovelluslogiikkasi kannalta.

Ymmärrä tokennien rajat ja hinnoittelu

Hinnoittelu on läpinäkyvää: $0.15 per miljoona syötetokenia ja $0.50 per miljoona tuotetokenia. Virheet ja hylkäykset eivät kuluta krediittia. Kontekstiikkuna tukee yhteensä 100,000 tokenia. Rajojen ylittävät pyynnöt palauttavat virhekoodin 429 (rate limit). Varmista, että pyyntöjesi koko pysyy alle 8 MB välttääksesi body-virheet.

Käsittele virheet ja reunatapaukset

Yleiset virheet sisältävät 401 virheellisille avaimille ja 402 riittämättömälle krediitille. 429-tila tarkoittaa, että olet ylittänyt 300 pyyntöä minuutissa -rajan. Käytä eksponentiaalista backoffia yrittäessäsi uudelleen nopeusrajoitusten jälkeen. Tarkista error object JSON-vastauksessa tarkempia tietoja. Palautuksia ei myönnetä, joten seuraa käyttöäsi tarkasti.

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)