Integrasi

Pakai NusaRouter dengan LiteLLM

LiteLLM memakai prefiks provider. Pakai openai/ sebagai provider dan arahkan api_base ke NusaRouter.

  1. 1. Pasang LiteLLM

    pip install litellm

  2. 2. Panggil dengan provider openai dan api_base NusaRouter

    Awali nama model dengan openai/ dan setel api_base ke https://api.nusarouter.web.id/v1.

    from litellm import completion

resp = completion(
    model="openai/deepseek-flash-v4.1",
    api_base="https://api.nusarouter.web.id/v1",
    api_key="sk-nusa-...",
    messages=[{"role": "user", "content": "Halo"}],
)

Model yang cocok untuk LiteLLM

Tarif dan daftar lengkap ada di halaman harga.

Pertanyaan umum

Provider apa yang dipakai di LiteLLM?
Gunakan provider openai, karena NusaRouter bicara bentuk chat-completions OpenAI. Nama modelnya adalah public id NusaRouter apa adanya setelah prefiks provider.