LLM应用开发框架
accttodo 12/31/2024 大模型
目录
参考：
# LLM应用开发框架
| 框架类型 | 代表项目 | 适用场景 | 开发者要求 |
|---|---|---|---|
| 代码密集型框架 | LangChain | 高度定制化、复杂逻辑任务 | 熟悉Python/LLM生态 |
| 低代码框架 | Dify | 快速原型开发、轻量级应用 | 基础业务理解，无需编程经验 |
| 多智能体框架 | AgentScope | 分布式协作、模拟仿真 | 分布式系统知识 |
在AI应用开发的初期，建议先选择Langchain和Dify作为首选工具，以便快速构建AI应用并进行落地验证。当面对某些实际需求时，如果这些框架无法满足，则可以考虑其他框架的实施方案。一方面，当前大模型及AI应用开发尚处于快速迭代阶段，各框架对新功能的支持程度存在差异，因此了解多个框架的特点是非常必要的。另一方面，AI框架和工具的同质化现象较为严重，从一个框架切换到另一个框架相对容易，因此不必过于担忧切换框架的成本问题。
# 一、代码密集型框架
- 代表项目：LangChain、LlamaIndex、Haystack、Semantic-Kernel
- 核心特点：
- 侧重整体流程设计和底层架构搭建，需开发者编写大量代码。
- 灵活性高，支持复杂任务编排（如多模型协作、工具调用）。
- 争议点：学习曲线陡峭，抽象层次复杂；代码变动频繁，过度封装导致维护成本高。
- 应用热度：大型企业
- 项目对比：
Langchain的社区和功能性最完善，虽然其抽象程度比较高，定制化难度比较大，但是可以作为快速构建AI应用并进行验证的工具。Llamaindex和langchain基本类似，但更加侧重于RAG应用开发，注重检索任务。目前社区的支持还比较少。Haystack简单易懂，抽象程度比Langchain低，因此定制化难度会低一些。目前社区的支持还比较少。Semantic-kernel最没有存在感。目前社区的支持还比较少。
# 二、低代码/无代码框架
代表项目：Dify、Flowise、Langflow、FastGPT
核心特点：
- 通过可视化界面（UI）实现应用编排，大幅降低编码需求。
- 快速部署，适合轻量级应用（如知识库问答、客服机器人）。
- 局限性：高度依赖底层模型性能，定制化能力有限。
应用热度：在中小企业快速落地中更受欢迎。
项目对比：
低代码平台都是通过托拉拽的方式进行AI应用开发，同时提供前端页面访问和API访问，因此可以快速与现有的业务场景进行集成。
Dify上手难度最小，但是涉及到定制化或者集成自定义的一些功能时难度最高；Flowise是基于langchainjs和LLamaIndexTS进行开发，相当于是对Langchain和LlamaIndex进行封装，并提供一个低代码平台进行Langchian或者LlamaIndex模块进行组合；Langflow是对Langchain进行封装，形成低代码开发平台，其定制化程度非常高，支持在线实时更改节点代码实时生效。
平台 组件核心 定制化难度 组件开发代码 调试难度 Dify / 高 / 低 Flowise Langchain/LlamaIndex 中 TypeScript 高 Langflow Langchain 低 Python /
# 三、多智能体（Agent）框架
- 代表项目：AgentScope
- 核心特点：
- 专注多智能体协作，支持分布式架构与消息驱动机制。
- 内置容错控制、多模态数据处理（文本、图像等）。
- 适用于复杂交互场景（如社会模拟、协同决策）。
- 框架热度：因分布式架构优势，在科研与复杂系统领域崭露头角。