仅只有未实名的,新媒易不收取任何费用,公益非盈利机构
24小时服务热线: 4000-163-302
请扫码咨询

新闻动态

NEWS CENTER

交融了生成式AI的查找在本钱方面只是“略高”

2023-10-19

另外,就是业界最关心的AI大模型的本钱问题。

其实关于大模型每次推理和调用的本钱问题,多数厂商都没有给出过具体的数据。不过,在文心千帆的介绍中,百度集团执行副总裁、百度智能云工作群总裁沈抖简略地讲了一下文心千帆的调用价格。

沈抖在讲演中说到,企业使用文心千帆渠道根据RAG使用框架制造企业文档问答使用的功用,并介绍了百度与三一重工的探索性合作。

在这个案例中,使用AI大模型只需10来分钟,就能够把48页,20000余字的产品阐明制造成问答帮手,并生成代码,直接挂在三一重工的网站主页,解答关于三一重工机械产品的专业问题。


根据文心大模型的三一产品小帮手

沈抖表明,制造这样一个问答帮手的本钱:只需要几百块钱,后续的每次问答只需要几分钱。

文心千帆渠道的收费定价是公开可查的。

在文心千帆渠道上,大模型的预置服务模块报价中,ERNIE-Bot大模型公有云在线调用服务的定价是0.012元/千tokens;Llama-2-70B-Chat的定价是0.044元/千tokens;最便宜的模型是Embedding-V1和bge-large模型,定价为0.002元/千tokens。

计费规则以ERNIE-Bot调优大模型调用服务为例:

输入:“请给我念一首诗”

输出:“春眠不觉晓,处处闻啼鸟。夜来风雨声,花落知多少。”

共中文字数为27,总计tokens为27

调用价格为0.012(单价) x 0.027千tokens=0.000324元

这些只是文心千帆报价的一部分,具体定价能够参看文心千帆网站。这个定价对于B端用户有限的事务来说的确不贵。结合沈抖的讲演,几乎能够算出三一重工在这个问答帮手上每月的开销。

沈抖说到的每次问答几分钱,咱们取低,算3分钱一次问答。根据网站拜访计算东西SimilarWeb的数据显示,2023年7-9月,三一重工官网的拜访量是36.8万次。假如对三一重工的问答每个拜访是3次,那均匀算下来这3个月的调用本钱也就3万块钱左右,的确不多。

虽说这个价格是对B端客户的不太适用C端,不过,咱们能够按这个价格大胆估计一下,假如把这个问答帮手放在百度官网流量等级的网站主页,或许花费的调用本钱是多少。

相同参照SimilarWeb的数据,百度官网在过去3个月中的拜访量是156.6亿次。假如每个拜访发问1次,那这3个月的调用本钱,也有4.6亿元了。

这个估算只是猜想,百度官方对大模型的C端本钱操控其实非常乐观。

百度集团副总裁、百度移动生态工作群组(MEG)查找渠道负责人肖阳告诉虎嗅,单看查找一项,根据文心一言实现“极致满足、引荐激起、多轮交互”的查找本钱没有那么可怕。相对于一般查找,交融了生成式AI的查找在本钱方面只是“略高”。

不过,在查找的本钱一直很高。有百度内部资料显示,百度查找本来处理的数据量在七八年前就现已达到千亿等级,目前每年纯设备本钱超越50亿元,算上研发、运营和维护的人工本钱,总开销每年接近100亿,且有逐年递增的趋势。

相关推荐