现在大语言模型往往达到百亿/千亿级参数规模,模型容量非常大 ,对于中小银行来说,若要建设大语言模型,预计需要多少资源?需要做哪些前期准备工作?
收起1、首要的还是需要技术团队资源,利用技术团队的能力评估大模型的应用场景。传统的应用还是聚焦在客服、营销等通用层面。如果考虑应用到核心的业务生产环境例如风控等场景,更需要结合业务共同打造,同时意味着技术团队需要深入了解业务。这方面需要长期的积累和迭代,很难一蹴而就
2、硬件设备主要是 GPU 的资源,目前这方面主要是英伟达为主,国产的GPU芯片还是存在差距。这方面的硬件费用也不低
3、最后是安全保障,要确保数据内部训练、交换、流通而不外泄。这方面的投入也不小。
具体费用结合场景和需要评估,详细的可以找相关厂商了解。