LlamaIndex AgentOps 回调集成AgentOpsHandler 的接入方式、参数配置与事件处理原理【免费下载链接】llama_indexLlamaIndex is the leading document agent and OCR platform项目地址: https://gitcode.com/GitHub_Trending/ll/llama_index本文围绕 LlamaIndex 的 AgentOps 观测回调集成展开讲解llama-index-callbacks-agentops包的安装、两种初始化方式及init()全部参数并基于开源仓库源码剖析AgentOpsEventHandler、AgentOpsSpanHandler与共享状态如何把 LlamaIndex 的 instrumentation 事件LLM 对话、Agent 工具调用、异常映射为 AgentOps 的LLMEvent、ToolEvent和ErrorEvent。读完后你可以将 AgentOps 会话追踪接入自己的 Agent 工作流并理解每条遥测数据的产生路径。集成包概览与依赖AgentOps 回调集成位于仓库的llama-index-integrations/callbacks/llama-index-callbacks-agentops/目录核心实现集中在 base.py并通过init.py 对外导出AgentOpsHandler。从 pyproject.toml 可以确认该集成的依赖约束包名llama-index-callbacks-agentops当前版本0.5.0运行环境要求 Python3.10,4.0依赖agentops0.2.2,0.3与llama-index-core0.13.0,0.15。也就是说这套回调基于 LlamaIndex core 的 instrumentation可观测性体系而非旧的 callbacks 体系且agentopsSDK 版本被严格限制在 0.2.x 范围内。安装与初始化安装命令来自集成包 README.mdpip install llama-index-callbacks-agentopsREADME 说明AgentOps 的AOClient所接受的关键字参数都可以通过AgentOpsHandler.init()的同名关键字参数传入。有两种初始化方式。方式一全局注册推荐from llama_index.core import set_global_handler set_global_handler(agentops, api_key...)这条路径的底层实现在 global_handlers.pycreate_global_handler在eval_mode agentops分支中延迟导入AgentOpsHandler然后直接调用AgentOpsHandler.init(**eval_params)把set_global_handler传入的全部参数透传下去。若未安装该集成包会抛出带pip install提示的ImportError。方式二直接调用 initfrom llama_index.callbacks.agentops import AgentOpsHandler AgentOpsHandler.init(api_key...)注意init()是类方法classmethod不需要先实例化 handler调用一次即完成客户端创建与全局 dispatcher 挂载。init() 参数详解AgentOpsHandler.init()的签名定义在 base.py。源码先构造一个client_params字典再过滤掉值为None的项后传给agentops.Clientao_client AOClient( **{k: v for k, v in client_params.items() if v is not None} )因此所有参数都是可选的未传的参数不会覆盖 SDK 自身的默认行为。参数列表如下参数类型说明api_keyOptional[str]AgentOps 平台的 API Key连接所需的核心凭证parent_keyOptional[str]父级项目的 key用于组织多项目归属endpointOptional[str]自定义上报端点用于自建或私有化 AgentOps 服务max_wait_timeOptional[int]上报队列的最大等待时间透传给AOClientmax_queue_sizeOptional[int]上报队列的最大长度透传给AOClienttagsOptional[List[str]]附加到会话上的标签列表便于在平台侧筛选instrument_llm_callsbool默认True是否追踪 LLM 调用默认开启inherited_session_idOptional[str]沿用已有的 session id把遥测挂接到既有会话上此外源码中还有两个不可通过参数覆盖的固定值auto_start_sessionTrue初始化后自动开始一个会话与skip_auto_end_sessionFalse进程结束时自动结束会话。这意味着init()调用一次即自动完成了建会话—追踪—关会话的完整生命周期调用方无需手动 start/stop。内部结构事件处理器、Span 处理器与共享状态init()的完整装配逻辑在 base.pydispatcher instrument.get_dispatcher() handler_state AgentOpsHandlerState() event_handler AgentOpsEventHandler(shared_handler_statehandler_state, ao_clientao_client) span_handler AgentOpsSpanHandler(shared_handler_statehandler_state, ao_clientao_client) dispatcher.add_event_handler(event_handler) dispatcher.add_span_handler(span_handler)可以看到它向 LlamaIndex 全局 dispatcher 同时注册了两个处理器且二者共享同一个AgentOpsHandlerState实例。这套设计是理解该回调行为的关键AgentOpsHandlerState共享状态定义在 base.py是一个 Pydantic 模型维护四个按span_id索引的字典is_agent_chat_span标记某个 span 是否处于 Agent 执行上下文内agent_chat_start_event记录每个 span 关联的LLMChatStartEvent供后续配对使用span_parent记录每个 span 的父 span id用于沿祖先链回溯span_exception记录某 span 及其直接子级抛出的异常集合。它提供两个递归回溯方法check_is_agent_chat_span沿span_parent链向上查找判断当前 span 的任一祖先是否关联了AgentRunStepStartEventget_chat_start_event则向上找到最近一次携带LLMChatStartEvent的祖先并返回该事件。span 退出或被丢弃时remove_span_id会统一清理四个字典中的对应条目。AgentOpsSpanHandlerSpan 生命周期处理器继承SimpleSpanHandler见 base.py负责在 span 进入/退出/异常丢弃时维护共享状态new_span为新 span 初始化is_agent_chat_span[span_id] False并记录父 span保证回溯链完整prepare_to_exit_spanspan 正常结束时清理状态prepare_to_drop_spanspan 因异常被丢弃时若该异常尚未被父级记录则通过self._ao_client.record(ErrorEvent(detailsstr(err)))上报一条ErrorEvent并把异常关联到父 span避免父级重复上报同一条异常。AgentOpsEventHandler事件处理器API 文档页的主体成员继承BaseEventHandlerbase.pyhandle()方法对 dispatcher 分发的每个BaseEvent做类型分派这正是 API 参考页 agentops.md 中列出的核心成员。事件到 AgentOps 遥测的映射规则AgentOpsEventHandler.handle()的处理逻辑可以归纳为三条规则规则一Agent 上下文的判定。每当收到AgentRunStepStartEvent定义见 events/agent.py携带task_id、step、input字段就把该 span 标记为 Agent 上下文。源码注释明确写道We only track chat events that are emitted while using an agent——即只有发生在 Agent 运行过程中的 LLM 对话事件才会被上报这是该回调的行为边界。规则二LLM 对话事件映射为LLMEvent。当LLMChatEndEvent出现在 Agent 上下文中时处理器会把event.messages逐条转成{content, role}字典列表作为prompt从event.response提取{content, role}作为completion若event.response.raw中存在usage取出prompt_tokens与completion_tokens一并上报借助共享状态的get_chat_start_event回溯到配对的LLMChatStartEvent从其model_dict中提取model名称没有则为None。最终组装为self._ao_client.record(LLMEvent(prompt..., completion..., model..., prompt_tokens..., completion_tokens...))。这也解释了为什么AgentOpsHandlerState需要缓存 start 事件LLMChatEndEvent本身不携带模型名必须回到 start 事件才能补齐model字段。规则三工具调用事件映射为ToolEvent。当收到AgentToolCallEvent携带arguments字符串与ToolMetadata见 events/agent.py时处理器把argumentsJSON 反序列化为参数字典记录为ToolEvent(nameevent.tool.name, paramsparams)arguments为空时params为None。至此一次 Agent 运行在 AgentOps 平台侧呈现为会话内按序排列的 LLM 事件含模型名与 token 用量、工具事件含工具名与参数以及错误事件含异常文本。使用建议与适用边界适用场景你在使用 LlamaIndex 的 Agent如基于 function calling 的 agent 工作流并希望把 LLM 调用、工具调用与异常上报到 AgentOps 平台做会话级追踪与评估。行为边界由源码可知LLM 对话事件只有在 Agent 上下文内才会被记录纯检索问答非 Agent中的 chat 事件不会进入 AgentOps 遥测。如果你的追踪目标是全量 LLM 调用应结合 core instrumentation 的其它 handler 或选择别的回调集成。版本前提该集成要求agentopsSDK 处于0.2.2含至0.3不含之间且llama-index-core在0.13.0至0.15不含区间升级 core 或 SDK 前建议先核对该 pyproject.toml 的约束。私有化部署init()支持endpoint参数指向自建服务也支持tags打标签、inherited_session_id挂接既有会话方便在多应用共享同一 AgentOps 账号时做区分。如需查看其它可观测集成wandb、langfuse、openinference 等与 AgentOps 的差异可参考 global_handlers.py 中create_global_handler的各分支实现而本集成在 API 文档站中的对应页面即 agentops.md。【免费下载链接】llama_indexLlamaIndex is the leading document agent and OCR platform项目地址: https://gitcode.com/GitHub_Trending/ll/llama_index创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考