大模型的落地应用被认为是又一次的人工智能产业革命，然而相比数年前的小模型落地应用，其经济效益似乎难以体现：
在使用小型TTS和NLP模型搭建智能客服替代人工后，模型运维成本和原人力成本相比明显下降，有了直接经济效益支撑，客服效果提升带来的间接经济效益水到渠成。
然而使用大模型重构智能客服后，模型运维成本几乎必然是上涨的。即使引入各种高效推理框架，能说维持现状不变也很乐观了，在此背景下，效果提升带来的间接经济效益足以cover成本这一论点通过简单的POC往往不足以令决策者信服。
是否存在这样一种可能：大模型应该基于现有业态挖掘全新客户需求创造新的智能应用，而非盯着已有系统的蛋糕叫嚣着要把所有小模型应用重构一遍？
对于大型金融机构而言，由于拥有海量金融数据，应用场景丰富，宜引入业界领先的基础大模型，自建金融行业、企业大模型，考虑到建设周期较长，可采用微调形成专业领域的任务大模型，快速赋能业务。对于中小金融机构而言，可综合考虑应用产出和投入成本的性价比，按需引入各类大模型的公有云API或私有化部署服务，直接满足赋能诉求。
关于TWT使用指南社区专家合作厂商入驻社区企业招聘投诉建议版权与免责声明联系我们 © 2024talkwithtrend — talk with trend,talk with technologist京ICP备09031017号-30
