Langchain创始人最新分享:如何跨越“原型惊艳”到“生产可靠”的鸿沟

大模型向量数据库机器学习

近日,在LangChain的Interrupt大会上,创始人Harrison Chase发表了纲领性主题演讲,直击AI行业核心痛点:如何跨越“原型惊艳”到“生产可靠”的鸿沟。

picture.image

Chase坦言,AI行业普遍面临的痛点在于“原型易,生产难”。尽管大模型的出现极大地降低了构建炫酷原型的门槛,但将其转化为能够在真实商业环境中稳定运行、持续创造价值的可靠应用,则是一项艰巨的挑战。这正是驱动LangChain从开源社区发展为一家公司的根本原因。

优秀Agent工程师必须的四大素质

picture.image

LangChain认为,成功的智能体构建,呼唤具备综合能力的“智能体工程师”,他们需要掌握:

  1. 精湛的提示工程 (Prompting) :与LLM进行高效、精确沟通的基础。
  2. 坚实的工程能力 (Engineering) :涵盖工具集成、复杂数据流构建(为LLM提供关键上下文)、以及稳健的部署策略。
  3. 敏锐的产品思维 (Product Sense) :深刻理解业务流程,并能通过智能体进行有效的复制和优化。
  4. 核心的机器学习知识 (Machine Learning) :特别是在智能体评估(Evals)以量化性能、捕捉非确定性,以及模型微调等方面。

智能体开发三大关键

基于丰富的实践经验,Chase分享了LangChain对当前智能体发展的三大核心洞察:

  1. 模型可选性至关重要 :智能体并非单一模型的产物。面对功能、成本、速度各异的众多模型,开发者亟需灵活选择。LangChain已成为模型集成的枢纽,为开发者提供了这种关键的“模型可选性”。

picture.image 2. 上下文工程决定可靠性 :传递给LLM的提示(上下文)的质量和结构,直接决定了智能体的行为和输出的可靠性。为此,LangChain推出LangGraph (已发布一年多),一个低级别、无预设(no hidden prompts/cognitive architectures)的编排框架,赋予开发者对智能体认知架构和上下文构建流程的极致控制力。

picture.image 3. 智能体构建是多学科团队协作 :鉴于技能需求的广泛性,智能体开发已演变为一项团队运动。LangSmith 应运而生,它不仅仅是一个可观测性平台,更是集成了强大的评估 (Eval) 功能提示中心 (Prompt Hub) 的协作中枢,为工程师、产品经理、机器学习专家等不同角色提供共享的洞察与协作环境。

picture.image

picture.image

LangChain的战略预判与产品布局

Chase强调,智能体不仅已经到来,并且在2024年开始显现出强劲的增长势头和商业价值,LangSmith追踪到的Trace数量激增便是明证。展望未来,LangChain基于以下三大预判,推出了一系列革新产品:

  1. AI可观测性:超越传统,专为智能体而生
  • 挑战 :智能体交互涉及大规模、非结构化、甚至多模态的数据,其可观测性需求远超传统应用,且服务于具备ML、产品和提示工程背景的“智能体工程师”这一新用户画像。
  • LangSmith新动向 :发布针对智能体的全新可观测性指标 ,包括对智能体所用工具的运行计数、延迟、错误分析 ,以及对智能体行为轨迹(paths)的可观测性 ,深入洞察智能体决策路径。
  • 赋能全民:让人人都能成为智能体构建者
  • 目标 :降低智能体开发门槛,使不同背景的人都能参与构建。

picture.image

  • LangGraph Prebuilt :为不熟悉AI的开发者提供常见的、经过验证的智能体架构预设(如单一智能体、智能体群、监督型智能体),加速上手。
  • LangGraph Studio V2 :重大升级,告别桌面应用(非Mac用户福音)转为Web应用 ,提供更强大的调试能力。用户可直接在Studio中查看LLM调用、构建评估数据集、修改提示 ,最激动人心的是能够从LangSmith拉取生产环境的Trace到本地进行调试和热重载 ,高效解决线上问题。

picture.image

  • Open Agent Platform (开源) :发布无代码/低代码智能体构建平台 ,基于LangGraph Platform。它内置智能体模板、使用MCP的工具服务、开箱即用的RAG即服务以及智能体注册中心 ,旨在让更广泛的非开发者用户也能轻松创建和管理智能体。

picture.image

  • 攻克部署新高地:智能体上线的“最后一公里”
  • 挑战 :智能体应用往往具有长时运行 (数分钟甚至数小时)、高并发突发性 (如批量后台任务)以及状态化 (支持人机协作与复杂错误处理)的特性,传统部署方式难以应对。
  • LangGraph Platform 正式版 (GA) :经过约一年的Beta测试后正式发布。提供超过30种API端点 (全面支持流式处理、人机协作、记忆管理等),具备水平扩展能力 以应对突发流量,专为长时运行工作负载设计 ,并能将部署的智能体作为MCP服务 暴露。平台还包含一个控制平面 ,用于组织内智能体的发现、共享与模板化复用,并提供云SaaS、混合云及完全自托管 等多种灵活的部署选项。

picture.image

小结

虽然,很多人吐槽langchain的设计及实现,但不可否认langchain走在大模型应用开发的最前沿,很多工具及最佳实践都是在学习和研究它进而发展的。作为最初的业余项目,走到现在已经是非常令人倾佩的成就。Harrison Chase指出LangChain的使命是致力于为全球的“智能体工程师”提供从构思、开发、协作、评估到部署的全生命周期支持。通过工具赋能,让智能体无处不在。

学习langchain的设计思想和脉络原理,推荐笔者出版的书籍:

公众号回复“进群”入群讨论

0
0
0
0
关于作者
关于作者

文章

0

获赞

0

收藏

0

相关资源
大规模高性能计算集群优化实践
随着机器学习的发展,数据量和训练模型都有越来越大的趋势,这对基础设施有了更高的要求,包括硬件、网络架构等。本次分享主要介绍火山引擎支撑大规模高性能计算集群的架构和优化实践。
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论