友人が$5K PCを持っています。

• 5090 GPU
• 16コアCPU
• 64GB RAM
絶対的なモンスターです。彼は主にOSRSをプレイするために使っています。
でも、他人の金の使い方を批判するつもりはありません。
ただ、周囲にどれだけのハードウェアが放置されているのか考えさせられました。ミニPC、エッジデバイス、コンシューマーGPUなどです。
@nunet_globalは、その余剰容量を既存のインフラの中で活用しようとしています。
クラウドを置き換えるのではなく、すでに存在しているものを使うだけです。概要は以下の通りです↓
1️⃣ 何をしているのか
私にとってこれがより興味深いのは、「余剰GPUをレンタルする」話ではないという点です。
むしろオーケストレーションに関するものです。
ポイントは、ただ空いているハードウェアを見つけるだけではなく、最初にどこでワークロードを実行すべきかを決めることです。いくつかのジョブはソースに近い場所に留まる必要がありますが、他は軽量でローカルで動かせるものもあります。
既存のハードウェアを、バラバラのマシンの集まりではなく、調整された一つのシステムのように動かすことが狙いです。
2️⃣ NuNetはAL'MAと連携
面白いのは、すでに実運用のセットアップでテストされている点です。Energy369エージェント（建物のローカルエネルギーマネジメント層）がローカルエネルギーのロジックを処理し、NuNetがオンサイトデバイスとクラウド間のワークロード分散を調整しました。
テスト内容：
- エネルギーの意思決定は現地で行われた
- AIワークロードはRaspberry PiからGPUデバイスまでのコンシューマーハードウェア上でローカルに実行
- より重いワークロードはクラウドで実行
3️⃣ より広範な証明
これは単なる住宅用途だけではありません。
NuNetは、ハードウェアの負荷テストのためにデータセンターパートナーにも利用されています。
4️⃣ なぜ重要か
私にとってこれは、すべての家庭をデータセンターに変えることではありません。
むしろ、インフラがすでに存在する場所に近いところで計算とエネルギーシステムを動かすことです。
実際には：
- 低遅延
- より高い耐障害性
- 中央集権的インフラへの依存度の低減
これは、実際のインフラが実際の問題を解決している例であり、これが私が「実世界のユーティリティ」と呼ぶ理由です。