LLM-jp-4.1 33B Thinking

llm-jp-4.1-33b-thinking
自社DC

日本語特化の思考モデル。テキスト専用

稼働率(72h)

98.61%

TTFT(24h 中央値)

—s

E2E レイテンシ(24h 中央値)

6.31s

出力速度(24h 中央値)

—tok/s

仕様

入力単価¥55 / 1M tok
キャッシュ読取単価—
出力単価¥125 / 1M tok
コンテキスト長65,536
最大出力トークン16,384
対応入力テキスト
精度BF16
重みllm-jp/llm-jp-4.1-33b-thinking
reasoning_effortnone / minimal / low / medium / high / xhigh
基盤自社DC
直近 72 時間

稼働状況

98.61%

72 時間の稼働率。1 時間ごとに、障害の無かった時間を緑で示します。

72 時間前現在
稼働障害

パフォーマンス

出力速度 - 24h

—tok/s
20:0002:0008:0014:0020:00直近 24 時間に十分なリクエストがありません

TTFT - 24h

—s
20:0002:0008:0014:0020:00直近 24 時間に十分なリクエストがありません

E2E レイテンシ - 24h

6.31s
02:00 JST — 6.31 s20:0002:0008:0014:0020:00

TTFT と出力速度はストリーミング応答(出力 50 トークン以上)の中央値、E2E レイテンシはすべての成功応答の中央値です。1 時間ごとに集計し、リクエストが無かった時間は線を描きません。稼働率は障害の有無で判定し、リクエストの有無には依りません。

このモデルを使う

from openai import OpenAI

client = OpenAI(
    base_url="https://hai-api.hcloud.ltd/v1",
    api_key="hai_...",
)

resp = client.chat.completions.create(
    model="llm-jp-4.1-33b-thinking",
    messages=[{"role": "user", "content": "Hello"}],
)
print(resp.choices[0].message.content)
curl https://hai-api.hcloud.ltd/v1/chat/completions \
  -H "Authorization: Bearer hai_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llm-jp-4.1-33b-thinking",
    "messages": [{"role":"user","content":"こんにちは"}]
  }'

ほかの言語・エージェントの設定は ドキュメント と セットアップ

今日から、baseURL を差し替えるだけ。

コンソールを開く