お知らせ

応答が 125 秒で切断される問題を修正しました

応答が返り始めるまでに 125 秒以上かかるリクエストが、途中で切断されていました。API ドメイン hai-api.hcloud.ltd の経路を変更し、解消しています。リクエスト側の変更は不要です。

症状

長いプロンプトを渡したときや、思考量の多いリクエストで、次のようになっていました。

クライアントから見える形はライブラリによって異なり、HTTP 524、接続エラー、読み取りタイムアウトのいずれかでした。OpenAI SDK・httpx・aiohttp・Go・Bun など、確認できた範囲のクライアントすべてで同じ 125 秒で切れています。そのため「使っているライブラリの設定が悪い」ように見えていましたが、原因は HAI 側の経路にありました。

2026 年 8 月 24 日から 25 日の 2 日間で、423 件がこの形で切断されていました。

原因

API ドメインを CDN 経由で配信しており、その CDN にレスポンス待ちの上限が 125 秒で固定されていました。上限に達すると、CDN が HAI 側との接続を切ってクライアントへエラーを返します。

推論そのものは失敗していません。切断されたリクエストはいずれも「モデルが応答を作っている最中」で、まだ 1 バイトも返していない状態でした。HAI 側のタイムアウトは 300 秒に設定してありますが、CDN が先に切るため一度も使われていませんでした。

前回のお知らせのとおり、応答開始まで（TTFT）の中央値は 3 秒です。一方で、10 万トークン級のコンテキストや思考量の多い指定では、ここが 2 分を超えることがあります。影響を受けていたのはその領域です。

対応

hai-api.hcloud.ltd を CDN 非経由に変更しました。リクエストは HAI のサーバーへ直接届くため、125 秒の上限はなくなります。

Web サイト・コンソール（hai.hcloud.ltd）は従来どおり CDN 経由のままです。ブラウザからの操作で 125 秒待つことはないため、変更する理由がありません。

ご確認いただきたい場合

大半のお客様は何もする必要がありません。次のいずれかに当てはまる場合のみ、設定の見直しが必要です。

送信先 IP を固定して許可している場合

hai-api.hcloud.ltd が解決する IP アドレスが変わりました。ファイアウォールや Egress Proxy で宛先 IP を許可リストに入れている場合は、現在の値を確認して更新してください。

dig +short hai-api.hcloud.ltd A

TLS 証明書をピン留めしている場合

証明書が HAI サーバーのものに変わりました。証明書や中間 CA をピン留めしている場合は、ピンの更新が必要です。ホスト名の検証のみであれば影響ありません。

クライアント側のタイムアウトを 125 秒未満にしている場合

HAI 側の制約はなくなりましたが、クライアントの設定値が低いままだとそこで切れます。長いコンテキストを扱う場合は、読み取りタイムアウトを 300 秒程度に設定してください。

変わらないもの

ご不便をおかけしたことをお詫び申し上げます。セットアップ手順はドキュメント、単価とモデル一覧は料金ページに掲載しています。

← 新着情報一覧へ

今日から、baseURL を差し替えるだけ。

コンソールを開く