其次是工程上的优化。大模型的调用量越大,优化推理成本的空间也越大。以前的模型都是单机推理,大模型用的是分布式推理。所以如果能把各种各样的底层算力用得更好,推理成本就会大大降低。
谭待进一步解释说,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片,这里有不同的负载,可以把不同任务混合在一起,互相错峰,通过智能调度把它们的利用率都跑得很高,就能极大地提升资源利用率,实现整体成本的优化。
nba直播吧5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型的定价策略。
对于“大模型开始价格战”的说法,谭待认为,大模型市场仍在发展初期,远远没到激烈竞争的阶段。“池塘有多大,鱼就有多大,现在整个池塘还在培养的过程。”
另外以字节内部业务为例,飞书的主要流量高峰在工作时间,抖音在下班后休闲时间的流量更高,这些不同业务的大模型推理,也能根据业务特点错峰使用,就可以降低成本。
豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。”
852.47MB
查看525.99MB
查看94.5MB
查看839.41MB
查看854.35MB
查看525.50MB
查看887.94MB
查看753.52MB
查看868.34MB
查看928.36MB
查看263.30MB
查看514.94MB
查看133.27MB
查看450.14MB
查看344.81MB
查看165.92MB
查看896.33MB
查看502.90MB
查看171.92MB
查看594.73MB
查看213.74MB
查看703.98MB
查看181.56MB
查看484.50MB
查看739.64MB
查看367.83MB
查看118.85MB
查看881.96MB
查看853.56MB
查看850.51MB
查看482.82MB
查看528.19MB
查看492.72MB
查看748.17MB
查看284.86MB
查看577.36MB
查看558.79MB
查看193.92MB
查看153.18MB
查看608.72MB
查看423.34MB
查看391.43MB
查看277.24MB
查看240.11MB
查看219.74MB
查看330.75MB
查看378.15MB
查看349.55MB
查看384.42MB
查看303.15MB
查看699.26MB
查看536.70MB
查看481.77MB
查看377.74MB
查看142.42MB
查看768.77MB
查看143.30MB
查看806.13MB
查看909.90MB
查看561.10MB
查看258.99MB
查看230.44MB
查看468.34MB
查看429.50MB
查看482.69MB
查看253.50MB
查看895.91MB
查看687.34MB
查看168.73MB
查看373.70MB
查看703.45MB
查看536.74MB
查看432.72MB
查看197.68MB
查看171.62MB
查看902.72MB
查看157.74MB
查看169.32MB
查看326.42MB
查看782.18MB
查看327.25MB
查看312.74MB
查看921.85MB
查看664.80MB
查看134.20MB
查看890.96MB
查看737.19MB
查看258.27MB
查看626.87MB
查看366.27MB
查看151.55MB
查看201.66MB
查看411.61MB
查看664.98MB
查看899.96MB
查看962.19MB
查看783.97MB
查看695.14MB
查看542.97MB
查看606.33MB
查看743.72MB
查看118.83MB
查看382.30MB
查看145.46MB
查看
931沙河rb
王婆称怕被说物质不敢带货🐠
2025-06-29 16:25:37 推荐
474188****3290
康泰克(上海)| 重磅亮相2024 CAIMRS自动...🐤
2025-06-30 0-1:45:16 不推荐
751152****3906
AI造富、芯片卖爆!SK海力士市值破1000亿美元,外资正疯狂涌入韩股🐨
2025-06-29 15:43:01 推荐
47老爷子打保龄球
4月开门红!特斯拉又涨价🐫
2025-06-30 18:44:03 推荐