对于中小商业银行来说,若要建设大语言模型,预计需要多少资源?需要做哪些前期准备工作?

现在大语言模型往往达到百亿/千亿级参数规模,模型容量非常大 ,对于中小银行来说,若要建设大语言模型,预计需要多少资源?需要做哪些前期准备工作?显示全部

现在大语言模型往往达到百亿/千亿级参数规模,模型容量非常大 ,对于中小银行来说,若要建设大语言模型,预计需要多少资源?需要做哪些前期准备工作?

收起
参与15

查看其它 2 个回答waring_id的回答

waring_idwaring_id技术经理某公司

1、首要的还是需要技术团队资源,利用技术团队的能力评估大模型的应用场景。传统的应用还是聚焦在客服、营销等通用层面。如果考虑应用到核心的业务生产环境例如风控等场景,更需要结合业务共同打造,同时意味着技术团队需要深入了解业务。这方面需要长期的积累和迭代,很难一蹴而就
2、硬件设备主要是 GPU 的资源,目前这方面主要是英伟达为主,国产的GPU芯片还是存在差距。这方面的硬件费用也不低
3、最后是安全保障,要确保数据内部训练、交换、流通而不外泄。这方面的投入也不小。
具体费用结合场景和需要评估,详细的可以找相关厂商了解。

零售/批发 · 2023-09-05
浏览527

回答者

waring_id
waring_id121635
技术经理某公司
擅长领域: 服务器数据库存储

waring_id 最近回答过的问题

回答状态

  • 发布时间:2023-09-05
  • 关注会员:4 人
  • 回答浏览:527
  • X社区推广