複数のGPUでLLM（大規模言語モデル）

「1つの大きなLLM（大規模言語モデル）を複数のGPUで力を合わせて動かそう」との記事を見かけましたが、なんともそそる話です。内容的に複数グラフィックカードを束ねるSLIを思い出しましたが、なんかSLIはもうないらしく、今回の複数グラフィックカードの話も比較的性能の高いもので、お気軽に環境構築できるようなものではなさそうです。...

• #GPU
• #GPGPU
• #LLM
• #大規模言語モデル

• #複数GPU