显示 HN：通过 TCP 连接到虚拟 GPU

显示 HN：通过 TCP 连接到虚拟 GPU
Show HN: Attaching to a virtual GPU over TCP

充分利用每张卡其他云提供商的 GPU 平均利用率为 15%，而您支付的 85% 都被浪费了。长期预订时，您必须猜测需要多少个 GPU，从而导致短缺和超额支付。对于开发人员而言，无需与 IT 沟通即可轻松获得高性能 GPU 集群对于企业而言，通过消除空闲 GPU 时间来缩减云预算

用户描述了一种名为“ffmpeg-over-ip”的软件解决方案，用于远程利用基于 IP 的 GPU 进行视频转码。他们提到了另一种软件“Juice”，该软件允许通过 GPU-over-network 在较大的 GPU 实例上使用较小的 GPU 实例。用户对基于云的订阅服务表示担忧，并表达了对开源替代方案的渴望。他们讨论了视频转码之外的潜在用例，并建议网络 GPU 有利于图形密集型应用程序，包括游戏和计算机辅助设计 (CAD)。由于可能不适合虚拟随机存取存储器 (VRAM) 的大型数据集以及有关缓存优化的询问，用户对开销和 I/O 瓶颈表示困惑。此外，他们还询问用于识别软件中制作的挂钩的发现方法。最后，他们质疑该技术对 MIG 或 vGPU 的适用性，并探索 GPU 共享的可能性。

Get more out of every card

GPUs at other cloud providers are utilized on-average 15% of the time, while 85% of what you pay goes to waste. With long-term reservations you have to guess how many GPUs you will need, resulting in shortages and overpayment.

For Developers

A cluster of high-performance GPUs at your fingertips without ever having to talk to IT

For Enterprises

Shrink your cloud budget by eliminating idle GPU time