字节跳动推豆包新模型,日均调用量四个月近乎翻倍

来源:PChome原创文章属性:新闻作者:PChome编辑部

字节跳动此次同步发布豆包大模型1.6 lite轻量版,成为拉动调用量增长的关键引擎。

10月16日,火山引擎在AI创新巡展上宣布推出豆包大模型1.6系列更新,同步披露关键运营数据:其日均Token调用量从5月的16.4万亿飙升至9月的超30万亿,四个月内近乎翻倍,一年间更是实现253倍增长。新模型首创"分档调节思考长度"功能,提供四档模式平衡效果与成本,低思考模式下输出Token量下降77.5%,思考时间缩短84.6%仍保效果。火山引擎总裁谭待表示,技术迭代与场景渗透双轮驱动,推动调用量爆发式增长。

字节跳动此次同步发布豆包大模型1.6 lite轻量版,成为拉动调用量增长的关键引擎。该模型推理速度更快,在0-32k输入区间综合成本较1.5 pro版降低53.3%,且效果提升14%。面向企业用户的成本优化策略成效显著,IDC报告显示,今年上半年火山引擎在公有云大模型服务调用量中占比49.2%,稳居行业第一。轻量版模型推出后,中小企业调用量周环比增长超80%,成为调用量翻倍的重要推手。

字节跳动此次同步发布豆包大模型1.6 lite轻量版,成为拉动调用量增长的关键引擎。该模型推理速度更快,在0-32k输入区间综合成本较1.5 pro版降低53.3%,且效果提升14%。面向企业用户的成本优化策略成效显著,IDC报告显示,今年上半年火山引擎在公有云大模型服务调用量中占比49.2%,稳居行业第一。轻量版模型推出后,中小企业调用量周环比增长超80%,成为调用量翻倍的重要推手。

广告声明:文内含有的对外跳转链接(包括但不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,PChome科技所有文章均包含本声明。

相关文章

关键词:互联网

大家在看