如何对部署好的模型进行持续监控和维护，及时发现和解决可能出现的问题。如何对模型进行定期的评估和优化，以保持其性能和效果。

目前是否有什么评估指标，来评估大模型建设的成果？

大语言模型训练中，如果有自定义的知识库，是否有快速批量生成适合此大语言模型的训练集的诀窍？

视频中关于NeMo这个，对我们银行对话式场景的训练，主要是用来解决哪些问题？对我们在场景训练带来什么有价值的帮助？

MySQL 和 Redis 用哪个开源版本？用 StatefulSet 还是 Operator 模式部署？

本期讨论话题重点围绕：数据湖、湖仓一体、数据仓库等基础统一数据平台建设，对大型模应用的影响： 讨论企业如何建设好数据湖、湖仓一体、数据仓库等平台（包括架构设计、数据库选型、数据采集策略选择、数据质量校验机制建立、数据整合策略选择等），以有效支持大模型的应用？这块大...(more)

大模型目前有什么经典必读的论文可以推荐的么？

（1）企业训练大模型时如何准备训练数据？（2）训练数据达到什么量级才能取得实际可用的效果？（3）训练数据的质量如何评估？（4）在企业私有数据以外，哪些公开可获得的数据能够作为正向补充？（5）如何针对智能客服等场景的语料数据设计适合模型结构和优化任务？（6）在训练过程中，客服等业务人员如何配合能...(more)

金融企业做GPU算力资源池化与GPU国产替代，需要评估哪些方面？现在替代去做GPU算力资源池化，需要考虑哪些方面呢？以及有哪些方案？以及是否建议这么做？欢迎专家们给与指导参考

在进行技术选型与集成方案时，企业的大模型技术与原有架构的技术选型，以及如何将大模型与原有架构进行有效的集成，实现数据和计算资源的共享和优化

在大模型计算中GPU如何加速计算？1）GPU如何加速后台的模型学习训练过程？2）在模型应用过程中，GPU是否也能起到加速作用？

市场上是否有类 chatgpt 及文心一言的简单、便捷的聊天工具，核心功能包括：实时翻译、智能问答、文本生成等，页面功能包含：用户界面、聊天窗口、消息管理、新建对话、历史对话保留等功能。...(more)

大模型的落地应用被认为是又一次的人工智能产业革命，然而相比数年前的小模型落地应用，其经济效益似乎难以体现：在使用小型TTS和NLP模型搭建智能客服替代人工后，模型运维成本和原人力成本相比明显下降，有了直接经济效益支撑，客服效果提升带来的间接经济效益水到渠成。然而使用大...(more)

大语言模型框架 Nemo Framework在金融行业有哪些落地实践？效果怎么样？

AI模型的质量和准确性取决于所使用的数据。如果数据质量低下，则可能影响AI模型的性能。因此，确保数据质量高且准确是至关重要的，如何保障数据质量和模型训练成果

分享如何通过改进数据收集和处理方法，对个性化、口语化的客户提问进行预处理和标准化，降低对大量高质量标注数据的依赖，提高训练数据的质量和合规性。