熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣，引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
Dylan Patel
半分析
精品 AI 基礎建設研究與顧問
私訊歡迎諮詢、報價或討論專業領域
開放模型顯示速度快 2.5 倍，成本高 6 倍
較低的批次大小，推測解碼更困難
Deepseek 的帕累托最優曲線顯示這一點
Claude Opus 4.6 是 100 Tok/s/用戶
Deepseek 在 100 時是 6k Tok/s/GPU
在 250 tok/s/用戶時更接近 1k
2月8日 03:15
速度快 2.5 倍，但價格貴 6 倍。
這無法通過推理優化來實現，必須是新晶片。
TPU？B200？AWS Inferentia？Cerebras？
509
熱門
排行
收藏