admin管理员组

文章数量:1130349

RAG+Agent在实际业务落地案例分享+项目推荐

大模型架构的经典分层，即：应用层、工具层、模型层 & AI Infra：

  • 应用层 - 大模型应用：主要以 RAG&AI Agent 初代的模式透出，主要的落地场景包括内部数据分析 - GBI 即生成式 BI、研发辅助提效 - 生成式 Code、面向外部用户和小二的知识库问答 - 如 ChatPDF；* 工具层 - 应用构建能力：主要介绍如何高效快速去构建自己场景的大模型应用（重点在 AI Agent 的构建），有应用构建工具 - LangChain， Agent 开发框架如：MetaGPT，MaaS 平台如 ModelScop-Agent&Agents for Amazon Bedrock 等；
  • 模型及基建层 - 大模型优化加速：核心在模型推理加速上的探索，未来以应对有限算力情况下，大模型应用规模化投产的性能和安全性诉求，目前也是业界争相要探索突破的重点；

AI Agent 是当前业界在大模型应用方面主要研究的方向，虽然大语言模型的能力足够强大，但它依旧是被动的响应用户的指令，并且生成的效果取决于使用者如何使用它。AI Agent（智能代理）则不同，它是一个自动化的程序，它具备自主规划和执行的能力，它也被视为通往 AGI（通用人工智能）的钥匙。

1. AI Agent

RAG+Agent在实际业务落地案例分享+项目推荐

大模型架构的经典分层，即：应用层、工具层、模型层 & AI Infra：

  • 应用层 - 大模型应用：主要以 RAG&AI Agent 初代的模式透出，主要的落地场景包括内部数据分析 - GBI 即生成式 BI、研发辅助提效 - 生成式 Code、面向外部用户和小二的知识库问答 - 如 ChatPDF；* 工具层 - 应用构建能力：主要介绍如何高效快速去构建自己场景的大模型应用（重点在 AI Agent 的构建），有应用构建工具 - LangChain， Agent 开发框架如：MetaGPT，MaaS 平台如 ModelScop-Agent&Agents for Amazon Bedrock 等；
  • 模型及基建层 - 大模型优化加速：核心在模型推理加速上的探索，未来以应对有限算力情况下，大模型应用规模化投产的性能和安全性诉求，目前也是业界争相要探索突破的重点；

AI Agent 是当前业界在大模型应用方面主要研究的方向，虽然大语言模型的能力足够强大，但它依旧是被动的响应用户的指令，并且生成的效果取决于使用者如何使用它。AI Agent（智能代理）则不同，它是一个自动化的程序，它具备自主规划和执行的能力，它也被视为通往 AGI（通用人工智能）的钥匙。

1. AI Agent

本文标签： 案例传媒业务项目在实际

版权声明：本文标题：RAG+Agent在实际业务落地案例分享+项目推荐【极客传媒】 内容由热心网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：https://it.en369.cn/jiaocheng/1754771181a2726228.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。