当下,伴随AI智能体在各个行业的应用持续渗透,Token调用量始终处于高速增长的

亚汇期货网 2026-07-20 23:17:54

当下,伴随AI智能体在各个行业的应用持续渗透,Token调用量始终处于高速增长的状态。如何进一步压低算力成本,成为未来行业各方重点攻坚的方向。 据业内人士介绍,目前行业正通过算力平台统筹协调多款主流大模型的调用,从整体上降低词元使用成本。与此同时,全国范围内的大规模算力集群建设也在加速推进,其中由国产算力芯片提供支撑的超大规模算力集群,被业内看作是后续算力降本的核心抓手。 除此之外,未来3到5年,光芯片等更前沿的技术逐步落地,也将成为算力成本下行的另一重要探索路径。“光电融合芯片和传统电芯片相比,核心优势在于计算延迟更低、运行功耗也更小,对应每单位Token的成本有望下降50%,甚至更高的幅度。”
本文地址: https://www.yahui.co/flash/61349-1.htm,转载请注明出处。


相关新闻

查看更多...

财经日历