金十データ3月3日の報告によると、レノボグループは最近、レノボ天問WA7780 G3サーバーをベースにして、業界で初めてDeepSeek-R1/V3 671Bの大規模モデルを単一のマシンで展開し、業界で認められている1TGBのメモリー(実際768GB)を下回りながら、100の同時ユーザーに滑らかな体験を提供しました。レノボのテストデータによると、512 TOKENの標準テスト環境では、このシステムは100の同時ユーザーをサポートし、1秒あたり10 TOKENの安定した出力を持続させることができ、最初のTOKEN応答時間は30秒以内に短縮されました。
Lenovo AIサーバーは初めてローカル展開DeepSeekフルブラッド大型モデル1TB未満、100同時実行をサポート
金十データ3月3日の報告によると、レノボグループは最近、レノボ天問WA7780 G3サーバーをベースにして、業界で初めてDeepSeek-R1/V3 671Bの大規模モデルを単一のマシンで展開し、業界で認められている1TGBのメモリー(実際768GB)を下回りながら、100の同時ユーザーに滑らかな体験を提供しました。レノボのテストデータによると、512 TOKENの標準テスト環境では、このシステムは100の同時ユーザーをサポートし、1秒あたり10 TOKENの安定した出力を持続させることができ、最初のTOKEN応答時間は30秒以内に短縮されました。