Lenovo AIサーバーは初めてローカル展開DeepSeekフルブラッド大型モデル1TB未満、100同時実行をサポート

金十データ3月3日の報告によると、レノボグループは最近、レノボ天問WA7780 G3サーバーをベースにして、業界で初めてDeepSeek-R1/V3 671Bの大規模モデルを単一のマシンで展開し、業界で認められている1TGBのメモリー(実際768GB)を下回りながら、100の同時ユーザーに滑らかな体験を提供しました。レノボのテストデータによると、512 TOKENの標準テスト環境では、このシステムは100の同時ユーザーをサポートし、1秒あたり10 TOKENの安定した出力を持続させることができ、最初のTOKEN応答時間は30秒以内に短縮されました。

原文表示
内容は参考用であり、勧誘やオファーではありません。 投資、税務、または法律に関するアドバイスは提供されません。 リスク開示の詳細については、免責事項 を参照してください。
  • 報酬
  • 1
  • 共有
コメント
0/400
コメントなし
  • ピン
いつでもどこでも暗号資産取引
qrCode
スキャンしてGate.ioアプリをダウンロード
コミュニティ
日本語
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • ไทย
  • Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)