主题
欢迎来到「理解 LlamaIndex」系列。这是一组短小的教程,覆盖构建智能体式 LLM 应用的每一个阶段,让你在深入更高级、更微妙的策略之前,先熟悉 LlamaIndex 的用法。如果你是编程经验丰富但刚接触 LlamaIndex,这里就是起点。
构建智能体式 LLM 应用的关键步骤
提示
如果这些名词对你还很陌生,建议先读一读我们的高层概念。
本教程分为三大部分:构建 RAG 流水线、构建 Agent、构建 Workflows,前后还有一些更小的章节。你将看到这些内容:
使用 LLM:直接上手开始与 LLM 打交道。我们会演示如何使用我们支持的数十种 LLM,无论是走远程 API 还是在你自己的机器上本地运行。
构建 Agent:Agent 是由 LLM 驱动的知识工作者,能通过一组工具与世界交互。这些工具可以用来检索信息(比如下文中的 RAG),也可以执行动作。本部分包括:
构建单个 Agent:演示如何构建一个能通过一组工具与世界交互的简单 agent。
使用现成工具:LlamaIndex 提供了数十个预置的智能体工具,可以直接接进你的 agent。
维护状态:Agent 可以维护状态,这对构建更复杂的应用很重要。
流式输出与事件:向用户提供可见性和反馈很重要,流式输出正是做到这一点的方式。
人在回路:让 agent 获得人的反馈往往至关重要。
用 AgentWorkflow 构建多智能体系统:把多个 agent 协作起来,是构建更复杂系统的强有力手段,这一节演示怎么做。
Workflows:Workflows 是更底层、事件驱动的智能体应用抽象,也是你构建任何高级智能体应用应该使用的基础层。你可以复用上面学到的预置抽象,也可以完全从零构建 agent。本部分涵盖:
为 Agent 加上 RAG:检索增强生成(RAG)是把你的数据送进 LLM 的关键技术,也是更精密智能体系统的一个组成部分。我们会演示如何给 agent 加上一条功能完整的 RAG 流水线,让它能回答关于你数据的问题。包括:
加载与摄取:把数据从它所在的地方取出来,无论是非结构化文本、PDF、数据库还是其他应用的 API。LlamaIndex 拥有数百个连接器,可对接任何数据源。
索引与嵌入:数据到手之后,如何组织对这些数据的访问方式是无穷无尽的,目标是让你的应用总能拿到最相关的内容。LlamaIndex 内置了大量这类策略,也能帮你挑出最合适的。
存储:以索引形式、或用 LLM 预处理出的摘要来存放数据通常更高效,这类专用数据库通常称为
Vector Store(见下文)。你同样可以保存索引、元数据等等。查询:每种索引策略都有对应的查询策略,而在检索出的内容交给 LLM 处理、直至返回给你之前,有很多手段可以提升相关性、速度与准确度,包括把它转成结构化响应(比如一个 API)。
把所有部分拼起来:不论你在构建问答、聊天机器人、API 还是自主 agent,我们都会演示如何把应用送进生产环境。
追踪与调试:也叫可观测性。对 LLM 应用而言,能窥见内部发生了什么尤为重要,它帮你排查问题并发现可改进之处。
评估:每种策略都有优劣,而构建、上线和演进应用的关键一环,就是评估你的改动是否真的让应用变好了——准确度、性能、清晰度、成本等等。可靠地评估改动,是 LLM 应用开发中至关重要的一步。
开始吧!
准备好了吗?前往使用 LLM。