なぜ GPU を借りるのか

動かす場所の選び方は三つしかない

手元の Mac や Windows PC で大きな言語モデルを動かそうとして詰まった人が取れる道は、実質三つです。

一つ目は買う。GPU（= 画像や AI の計算を大量に並列でこなす専用チップ）を自分の PC に積みます。GeForce RTX 5090 は VRAM（= GPU に直付けされたメモリ。モデルはここに載せて計算する）が 32 GB GDDR7、消費電力の指標である Total Graphics Power が 575 W。必要なシステム電源は NVIDIA の仕様表が 1000 W、同じページの組み込みガイドが 850 W 以上と二通り書かれています。製品ページに希望小売価格が載っていないため、本書では本体価格を数値で示しません。

二つ目は借りる。vast.ai は自らを「GPU を貸したい人と、GPU が必要な人を結ぶ marketplace（= 売り手と買い手を仲介する市場）」と定義しています。貸し手は個人のゲーミング PC からティア 4 データセンターまで。2026-08-24 時点で、RTX 5090 を 1 枚・中断されない契約（on-demand）で借りる単価は、公開 API から取れた 64 件で最安 0.3215 USD/時、中央値 0.4037 USD/時。1 USD = 150 円として中央値は 1 時間あたり約 61 円です。

三つ目は API を使う。誰かが動かしているモデルに文章を投げるだけなので手間は最小ですが、モデルの重み（= 学習済みのパラメータの塊）を自分で選べません。借りた場合は好きな Docker イメージ（= アプリと OS の中身をひとまとめに固めた配布物）を動かし、公開された重みを落として追加学習までできます。動かす対象を自分で決めたいなら二つ目、答えだけ欲しいなら三つ目です。

三つの決定的な違いは性能ではなく、お金の増え方の形です。

借りると 1 時間に何を払うのか

料金は GPU 時間・ディスク・帯域の三つに分かれます。インスタンス（= 借りた GPU の上で動く自分専用の Linux 環境）は、実際に使った分に対して秒単位で課金されます。

ここで最初の罠。検索結果に並ぶ時間単価は、GPU だけの値段ではありません。公式ドキュメントは offer カード（= 貸し出し 1 件ぶんの一覧行）の Price を「GPU のレンタル価格 + 割り当てたストレージの時間あたりコスト」と定義しています。API で言えば dph_total がこの表示価格で、GPU 単体の値段は別フィールドの dph_base です。つまりディスクを大きく取ると、表示される時間単価そのものが上がります。

続けて引っかかる点が二つ。一つ、画面の時間単価に帯域の料金は入っていません（転送量への課金は、時間あたりの表示にも 1 日あたりの表示にも出ません）。二つ、stop（停止）してもディスクの課金は続きます。停止すると GPU は手放されますがデータは残り、その置き場代も残ります。完全に止めるには destroy（破棄）が必要で、destroy するとデータは完全に消えます。

計算例。40 GB のディスクを 1 か月確保すると 40 × 0.20 = 月 8 USD（中央値）。1 時間動かすのが 0.40 USD なので、「1 時間だけ試して止めっぱなし」を 1 か月続けると 動かした分の 20 倍をディスク代で払うことになります。

相場は日単位で動きます。今日の値段は、API キーなしで叩ける公開エンドポイントで確認できます。

curl -s -X POST "https://console.vast.ai/api/v0/bundles" \
  -H "Content-Type: application/json" \
  -d '{"limit":64,"type":"ondemand","rentable":{"eq":true},
       "gpu_name":{"eq":"RTX 5090"},"num_gpus":{"eq":1},
       "order":[["dph_total","asc"]]}'

返ってくるのは {"offers": [ ... ]} という形の JSON で、配列の 1 要素が offer 1 件です。dph_total が表示価格、その内訳が dph_base（GPU 単体）と storage_total_cost（割り当てディスク分）、storage_cost がディスクの USD/GB/月、inet_down_cost と inet_up_cost が帯域の USD/GB です。gpu_name はスペース区切りの表示名で一致し、コマンドライン版の書式 RTX_5090（アンダースコア）では 0 件になります。limit に 200 と書いても返るのは最大 64 件です。

買うと何時間で元が取れるのか

損益分岐点[時間] = 買うのにかかる初期費用[USD] ÷ 0.40[USD/時]

初期費用を数値で埋めないのは、NVIDIA の製品ページに価格が載っていないからです。自分が買うカードの実売価格（電源やケースの買い替えが必要ならその分も）を入れてください。電気代は分岐点をさらに後ろへずらします。計算例として、GPU 単体の TGP が 575 W なので全力運転中は 1 時間あたり 0.575 kWh。これに電気料金明細の単価を掛けた額が上乗せされます（PC 全体ではさらに増えます）。

逆から見ると、使う時間が短いほど借りる側が有利です。計算例として 1 日 1 時間なら、1 年で 365 時間・中央値 0.4037 USD/時 で約 147 USD、3 年でも 1,095 時間で約 442 USD。買った方が安くなるのは、ほぼ回し続ける使い方をするときだけです。

もう一段安い道もあります。中断される契約（interruptible）では自分で入札額を決め、より高い入札に負けるとインスタンスが停止します。2026-08-24 時点の実測では入札ベースの中央値が 0.34 前後で、中断されない 0.404 に対して割引は 1〜2 割程度（最安値だけは 0.106）。「中断ありなら半額」はこの時点の 5090 には当てはまりません（第 6 章）。

相場の中で RTX 5090 はどこにいるか

2026-08-24 時点の実測です。読み方に注意が必要で、出品数が 64 件を超える GPU（3090・4090・5090）は安い順に先頭 64 件しか取れていないため、中央値と最高値は実際の分布より安い側に寄っています。最安値だけは信頼できます。

つまり「1 GB あたりが安い GPU」を探しているなら 5090 は答えではありません。答えになるのは「1 枚で 30 GiB 級の VRAM が要る」ときだけです。在庫も都合が良く、Blackwell（= RTX 50 シリーズが属する NVIDIA のアーキテクチャ世代名）を検索した 64 件のうち 18 件が RTX 5090 で最多でした。なお verified（= vast.ai の自動テストを通った印）が付いた 21 件と付いていない 43 件で、単価の中央値はどちらも 0.404 USD/時 で同じでした。安さの差は別の軸に出ます（第 5 章）。

32 GB が決めること

借りる前に押さえる数字が一つ。実測の VRAM は 32607 MiB、約 31.84 GiB です。API の gpu_ram は「MB」という名前で返りますが、中身は MiB（= 1024 × 1024 バイト）で数えた値です。GiB は MiB の 1024 倍、10 進の GB（= 1000 の 3 乗バイト）より 1 単位あたり約 7 % 大きい単位で、「32 GB あると聞いたから 32 GB 分載る」と見積もると必ず足りません。この 31.84 GiB の使い道は三つに分かれます。

必要な VRAM ≒ モデルの重み + KV キャッシュ + 余裕（フレームワーク常駐・CUDA コンテキスト等）

重みのサイズは、パラメータ数と 1 パラメータあたりのビット数（bpw = bits per weight）だけで概算できます。この bpw を減らして重みを小さく持ち直す操作が量子化（= 1 つのパラメータを表すビット数を削り、精度を少し捨ててサイズを縮める加工）です。vast.ai 公式の目安「パラメータ数 × 2 バイト（BF16 の場合）」も 16 bpw のときの同じ式です。

重みサイズ[GB] = パラメータ数[10 億] × bpw ÷ 8

重みサイズ[GiB] = 重みサイズ[GB] ÷ 1.073741824

VRAM の残量と比べるときは GiB 側の数字を使います。上の式で 32B を 4 bpw なら 32 × 4 ÷ 8 = 16 GB、これを 1.073741824 で割って 14.9 GiB。次の表はこの手順で計算した値です（計算例）。

KV キャッシュ（= 会話が長くなるほど溜まる、過去のトークンぶんの計算結果）はコンテキスト（= モデルが一度に扱える文章の長さ。トークン＝文章を区切った最小単位で数える）を伸ばすほど増えます。1 トークンあたりの大きさはモデルの構造で決まり、公式の計算例では同規模でも約 96 KB のモデルと約 962 KB のモデルがあります。約 10 倍差で、「パラメータ数が同じなら同じ VRAM」ではありません。

24 GiB クラス（RTX 4090 は実測 23.99 GiB）との差は約 7.9 GiB。これは「一段大きいモデルが動く」ではなく、① 量子化を一段良くする ② コンテキストを伸ばす ③ 14B を bf16 で載せる、のどれかに使える予算です。逆に70B の 4 bpw は重みだけで 32.6 GiB あり、5090 単体には載りません（第 3 章）。

借りる代わりに引き受けるもの

データは貸し手から守られていません。他の利用者からは非特権 Docker コンテナで隔離されますが、貸し手については公式ドキュメント自身が「ホストは技術的に自分のマシン上のファイルにアクセスできる」と書いています。長期の API トークン・SSH 秘密鍵・個人情報・非公開のコードや重みを置いてはいけません。公開データセットとオープンウェイトのモデルなら問題になりません。

在庫と価格は動きます。vast.ai はハードウェアを持たない仲介者で、公式も「我々は marketplace に過ぎない」と明言しています。借りた瞬間に契約の終了日が固定され、期限が来るとインスタンスは停止して失効から 48 時間後に削除される可能性があります。

環境は Linux の Docker コンテナだけです。Windows もリモートデスクトップもなく、接続は SSH（= 遠くのコンピューターに安全にログインする仕組み）・Jupyter（= ブラウザ上でコードを書いて実行する画面）・Instance Portal（= 推奨テンプレートが用意する、インスタンス内で動いているサービスへの入口ページ。認証を前に挟んでくれる）の 3 つです。さらに Blackwell 世代は旧世代ほどの後方互換性を持たないため、vast.ai 公式はテンプレートと Docker イメージが CUDA（= NVIDIA の GPU で計算を走らせるための実行基盤）12.8 および PyTorch（= 機械学習で最も広く使われるライブラリ）2.7 以上であることを必須条件とし、「Docker イメージを変更してはいけない」と警告しています。[Automatic] タグのテンプレートを選べば、サポート済みの最新イメージが自動で使われます。

つまずきポイント

理解度チェック

まとめ

• 三択の違いは性能ではなくお金の増え方。買うは前払い一括、借りるは起動時間に比例、API は使った量に比例する
• 2026-08-24 時点で 1×RTX 5090 の表示価格は最安 0.3215・中央値 0.4037 USD/時（1 USD = 150 円で約 61 円）。これは dph_total = GPU + 割り当てディスクの合計で、GPU 単体は dph_base。ディスクの単価は 0.20 USD/GB/月、下りは 0.0026 USD/GB で、帯域だけは時間単価に含まれない
• 境目は 初期費用 ÷ 0.40 USD/時。1 日 1 時間なら 1 年で約 147 USD しか使わない
• 5090 を選ぶ理由は「1 枚で 31.8 GiB に届く最も安いカード」だから。1 GiB あたりの安さでは 3090 が約 3.5 倍の差で勝つ
• 分母は 32 ではなく 31.84 GiB。70B の 4 bpw は重みだけで 32.6 GiB あり単体には載らない
• 引き受ける条件はホストはファイルを読める／在庫と契約期限は制御できない／CUDA 12.8・PyTorch 2.7 以上のイメージから離れられないの 3 つ

次章では vast.ai の仕組みを offer・instance・template の 3 語で解きほぐします。この 3 語が分かると、価格の揺れも在庫の消失も「そういう作りだから」で説明できます。

参考リンク

• vast.ai — Concepts（marketplace の定義、offer / instance / template）
• vast.ai — FAQ: General（コストが下がる理由、Linux Docker のみという前提）
• vast.ai — Manage Instances（stop と destroy、失効後 48 時間、ホストのファイルアクセス）
• vast.ai — FAQ: Security（コンテナ隔離と、貸し手からは守られないこと）
• vast.ai — FAQ: Rental Types（on-demand / reserved / interruptible）
• vast.ai — FAQ: Instances（契約終了日は借りた時点で固定される）
• vast.ai — Find and Rent（offer カードの項目と、価格に何が含まれるか）
• vast.ai — API: Search Offers（dph_total・storage_cost などの単位の癖）
• vast.ai — RTX 5 Series（CUDA 12.8 / PyTorch 2.7 以上、イメージを変更するなという警告）
• vast.ai — GLM-4.7-Flash の例（KV キャッシュの計算式と 1 トークンあたりの実例）
• NVIDIA — GeForce RTX 5090（32 GB GDDR7、TGP 575 W、必要システム電源、寸法）
• NVIDIA Developer — CUDA GPU Compute Capability（RTX 5090 は 12.0）