解锁大模型之力,探寻智能新境界---软中信息开展了2024年第一期大模型技术沙龙活动
2024-06-28
为促进公司技术团队拥抱大模型方面的技术,整体了解大模型的基本情况,对外开拓应用大模型新客户促进业务增长,对内应用大模型赋能技术团队降本增效,2024年6月28日公司举行了技术沙龙--解锁大模型之力,探寻智能新境界,共有17名员工线上线下参加此次沙龙进行相互交流。
本次培训内容丰富,主要有五大部分构成:大模型主题演讲、大模型智能体平台应用、大模型资源规划及部署、大模型开发方面、探讨大模型应用场景。
第一部分大模型主题演讲:围绕《解锁大模型之力,探寻智能新境界》进行,对大语言模型LLM、大模型应用核心技术、大模型开发范式、RAG架构、Agent架构这几个方面进行了介绍。
第二部分大模型智能体平台应用,聚焦于大模型智能体平台的实际应用,介绍了基于 Fast GPT 智能体在舆情监控领域的应用,通过高级编排后其能够有效地处理和分析大量网络数据,为企事业单位提供实时的舆情洞察和自动化响应策略。通过实际演示,展示了智能体如何通过自动化流程,对舆情事件进行快速识别、分类和反应。
第三部分大模型资源规划及部署,介绍CUDA的优势与应用领域, 对TensorFLOW及PyTorch机器学习平台要求以及计算加速能力,大模型训练分类场景与模型的推荐配置进行了介绍。
第四部分大模型开发方面,围绕模型框架的选择展开了详细讨论,并介绍了几种先进的框架和工具。首先,介绍了模型框架选择的重要性,并深入讲解了四种流行的框架及其优势:AutoGPT用于自动化任务生成,LangChain适合构建复杂的链式语言处理应用,MetaGpt支持大规模并行训练和推理,AutoGen能自动生成代码和文档。接着,重点介绍了LangChain框架的使用步骤,包括安装与配置、构建链式任务、调试与优化。随后,讨论了几种流行的向量数据库选项及其功能点,如Qdrant、Pinecone和Weaviate,比较了它们在不同应用场景中的优势。最后,沙龙演示了一个基于LangChain的本地知识库智能回答系统,从系统构建到功能演示,展示了其在本地知识库中的问答能力和响应速度。通过本次沙龙,与会者深入了解了不同模型框架的特点和使用方法,对向量数据库的选择和功能有了更清晰的认识,并体验了基于LangChain构建智能回答系统的实用价值。
第五部分探讨大模型应用场景,详述 AI 大模型工具于日常场景的运用以及大模型本地化运行的部署方式。
技术沙龙是今年新开展的一种技术培训方式,通过员工之间的交流讨论,相互学习,进行广泛的思想交流。将在日常工作中对大模型运用的经验进行分享,实现共同成长。
数字化转型 | 智慧城市地下空间管理解决方案
2024-09-06
智慧赋能 | 上海软中打造高效客户服务系统新生态
2024-09-03
支部活动 | 与上海软协、联通云网生态党支部开展联建活动
2024-09-02
基于云原生的云基建解决方案(上)
2024-08-28