vast.ai で RTX 5090 を借りてローカル LLM を動かす｜アカウント作成から API 公開・課金停止まで

このガイドについて

読者として、GPU クラウドを使ったことがなく、ターミナルもほとんど触っていない人を想定しています。SSH・Docker・CUDA・VRAM といった言葉はすべて初出時に 1 文で定義し、コマンドはそのままコピーして動く形で書きます。画面操作は「どのボタンを押すか」を名前で示します。図はすべてインライン SVG で描いてあり、ライトテーマとダークテーマの両方に追従します。

価格・在庫の数値は、2026-08-24 に vast.ai の公開 API（POST /api/v0/bundles）から筆者が直接取得した実測値です。相場は日単位で動くので、金額はすべて「その時点のスナップショット」として読んでください。

図 0-1　各部を読み終えた時点でできるようになること。第 I 部から第 III 部までは順番に読むことを想定しています。第 IV 部の第 12〜14 章は 3 つの実行方法を並べたもので、どれか 1 つだけ読んでも動かせます。

必要なもの: Mac か Windows PC、ブラウザ、クレジットカード（またはデビットカード）。手元に NVIDIA の GPU は要りません。 ターミナル（Windows なら PowerShell）を開いてコマンドを貼り付ける操作だけできれば読み進められます。

お金の注意: vast.ai は借りている間ずっと秒単位で課金されます。インスタンスを消し忘れると寝ている間も課金が続きます。第 16 章「お金を止める」だけは、実際に借りる前に先に読んでください。ディスクは停止中も課金対象です。

情報の鮮度: GPU の相場・テンプレート・ツールのオプション名は更新が速い領域です。本ガイドは 2026-08 時点の公式ドキュメントに基づいています。実行前に各章末の参考リンクから最新版を確認してください。

第 I 部　借りる前に知っておくこと

第 1 章なぜ GPU を借りるのか買う・借りる・API の三択を実測価格で比べます。RTX 5090 は 2026-08-24 時点で 0.4037 USD/時。ディスク代と帯域代、VRAM の上限も扱います。図解 4 枚｜理解度チェック 5 問第 2 章 vast.ai のしくみと用語 GPU の持ち主と借り手をつなぐ市場という前提から、offer・契約・instance・template の関係、課金が始まる場所、verified の意味までを押さえる。図解 4 枚｜理解度チェック 5 問第 3 章 RTX 5090 で何が動くのか実効 31.8 GiB を分母に、重み・KV キャッシュ・余裕の 3 項目で「載る・載らない」を借りる前に判定します。CUDA 12.8 の要件と溢れたときの挙動まで。図解 4 枚｜理解度チェック 5 問第 4 章アカウント作成と入金前払い制と課金の 3 本立てを押さえ、アカウント作成・メール検証・入金・API キー発行までを通します。残高が 0 に達したとき何が起きるかも先に確認します。図解 4 枚｜理解度チェック 5 問｜やってみる 3 本

第 II 部　借りる

第 5 章 offer カードの読み方検索結果の 1 行に並ぶ 19 項目を「載るか・速いか・待つか・外に出せるか・いくらか・落ちないか」の 6 束に畳んで読む。2026-08-24 実測の価格分布つき。図解 4 枚｜理解度チェック 5 問第 6 章 On-demand・Interruptible・Reserved の選び方 3 つの契約を分けているのは値段ではなく優先度です。入札で止められる仕組みと、2026-08-24 時点で割引が 1〜2 割しかない実測、前払い変換の落とし穴までを押さえます。図解 4 枚｜理解度チェック 5 問第 7 章テンプレートとディスク容量テンプレートは新しいインスタンスのためのレシピ。イメージを変えると 5090 が候補から消える仕組み、launch mode の違い、作成後は変えられないディスク容量の決め方。図解 4 枚｜理解度チェック 5 問第 8 章【実践】SSH 鍵を登録して 1 台借りる鍵の登録・検索・RENT・起動確認・destroy を約 0.18 USD で 1 周します。鍵を先に登録する理由と、RENT と running で別々に始まる課金を押さえます。図解 4 枚｜理解度チェック 5 問｜やってみる 4 本

第 III 部　つなぐ

第 9 章 SSH でインスタンスに入る root・ホスト・ポートの 3 つで入ります。proxy と direct の経路差、既定で tmux に入る理由、ポートを公開せずに手元から使う ssh -L、切り分けまで。図解 4 枚｜理解度チェック 5 問｜やってみる 3 本第 10 章 Jupyter・Instance Portal・ポート公開ブラウザからの入口は 3 本。内部ポートがランダムな外部ポートになる理由、Portal のトンネルとトークン、開け忘れの救済と、穴を開けずに済ませる作法まで。図解 4 枚｜理解度チェック 5 問

第 IV 部　LLM を動かす

第 11 章モデルを手に入れるコマンドは hf。落とす前に --dry-run でファイル数と GB を測り、gated は申請と承認を先に済ませます。キャッシュの置き場と、落としている間の課金も押さえます。図解 3 枚｜理解度チェック 5 問｜やってみる 3 本第 12 章【実践】Ollama で 10 分で動かす Ollama を入れて pull から会話まで通す最短ルート。ollama ps で GPU に載ったかを確かめ、keep alive の 5 分ルールと 32 GB の上限も。図解 4 枚｜理解度チェック 5 問｜やってみる 3 本第 13 章【実践】vLLM で OpenAI 互換 API を立てる vast.ai のテンプレートで vLLM の OpenAI 互換 API を立てます。32 GB の予約枠の内訳、max-model-len と同時本数の関係、手元から叩くまで。図解 4 枚｜理解度チェック 5 問｜やってみる 3 本第 14 章【実践】llama.cpp と GGUF で動かす GGUF を llama-server で配る実践。分割は先頭 1 本だけ渡し、/health の 200 を待ち、-ngl と --fit で 32 GB に収めます。図解 4 枚｜理解度チェック 5 問｜やってみる 3 本第 15 章手元の Mac / PC から使う ssh -L でトンネルを 1 本通し、ポートを開けずに手元から使います。ベース URL・キー・モデル名の 3 点、Open WebUI の接続設定、届かないときの切り分けまで。図解 4 枚｜理解度チェック 5 問｜やってみる 3 本

第 V 部　止める・払う・直す

第 16 章お金を止める stop で止まるのは GPU メーターだけです。3 本の課金メーターが回る条件、5 操作の違い、40 GB を止めたまま忘れたときの実額、撤収の順番を押さえます。図解 4 枚｜理解度チェック 5 問第 17 章つまずき集とトラブルシュート症状の名前ではなく「いまどの状態か」から降りる切り分け。running に戻らない 3 状態、stop が GPU を手放す仕組み、鍵・ポート・CUDA・残高の逆引きを揃えます。図解 4 枚｜理解度チェック 5 問第 18 章早見表・用語集・チェックリスト目的から構成を決める分岐、作業順とコストの発生点、場面から引く vastai コマンド表、2026-08-24 時点の実測価格と見積り式、3 つのチェックリストと用語辞典。図解 4 枚｜理解度チェック 5 問

vast.ai で RTX 5090 を借りて ローカル LLM を動かす

このガイドについて

目次

第 I 部 借りる前に知っておくこと

第 II 部 借りる

第 III 部 つなぐ

第 IV 部 LLM を動かす

第 V 部 止める・払う・直す

vast.ai で RTX 5090 を借りてローカル LLM を動かす

第 I 部　借りる前に知っておくこと

第 II 部　借りる

第 III 部　つなぐ

第 IV 部　LLM を動かす

第 V 部　止める・払う・直す