前期,火山引擎官宣与地瓜机器人达成了合作,实现了火山引擎边缘智能-大模型网关与地瓜机器人软硬件通用底座“云-边-端”的全面打通,拓展机器人的无限智能化潜能。地瓜 RDK X5 机器人开发套件集成了火山引擎边缘智能-大模型网关能力,开发者可以直接通过标准化的 ROS 接口调用大模型,加速多样化智能机器人应用的快速集成、落地,为机器人领域带来全新的应用场景和用户体验。
当前,火山引擎边缘智能-大模型网关 x 地瓜机器人,为所有购买 RDK 开发板的用户免费开放大模型网关能力,让更多机器人开发者轻松访问大模型,畅享强大的云边大模型资源。无论是进行复杂的数据分析、自然语言处理还是机器学习任务,都能得到高效且稳定的支持。
相比于直接接入大模型提供商,火山引擎边缘智能-大模型网关具备更多优势,确保了机器人开发的高效集成与使用。
火山引擎边缘智能-大模型网关(AI Gateway)实现了一站式 API 接口,用户能够便捷地访问多家大模型提供商的资源。依托全球分布的边缘计算节点,大模型网关确保了在端侧的就近调用,大幅提升了响应效率。借助边缘云架构的强大能力,并通过高效的语义缓存策略减少了对源服务器的访问,降低了模型的使用成本,同时也显著提升了模型访问速度。此外,在出现故障时,支持自动重试和切换备用模型,确保服务的连续性和稳定性,为终端用户带来了更加快速、稳定的 AI 服务体验。
边缘智能-大模型网关技术架构
地瓜机器人开发套件集成火山引擎边缘智能-大模型网关入口,目前通过大模型网关,支持访问和使用的模型有:
- doubao-pro-4k
- doubao-pro-32k
- doubao-pro-128k
- doubao-lite-4k
- doubao-lite-32k
- doubao-lite-128k
- ……
- 其他模型敬请期待
开发者可以轻松访问和使用这些云边大模型资源,助力机器人实现复杂的数据分析、自然语言处理、机器学习任务等高级能力。
在智能机器人领域,如何让机器人具备视觉感知和自主决策能力,一直是开发者关注的焦点。为了帮助开发者快速了解大模型网关,地瓜机器人在 RDK Studio 应用中,上线了“火山引擎大模型网关”示例。通过该示例,结合 USB 摄像头,开发者可以快速构建基于大模型的物体识别和任务拆解的多模态感知应用。
RDK Studio 官网
通过“火山引擎大模型网关”示例程序,开发者可以实时查看 USB 摄像头捕获的画面,并询问大模型识别到了什么,大模型将基于推理对比结果给出答复。接着,在开发者提供机械臂的 API 函数的基础上,大模型将自动编排示例程序,在具体操作流程中,只需先点击“你看到了什么”按钮,接着点击“你能做什么”按钮,即可模拟并完成机器人的任务拆解。
可以预见的是,借助大模型实现物体识别与移动物品的能力后,机器人将在制造业的装配线自动化、仓库管理,物流领域的货物分拣、无人配送,零售业的货架整理、自助结账服务,农业的作物采摘与搬运,以及家庭服务中的清洁、物品整理和安全监控等多个方向展现出巨大的发展潜力,并在这些领域大放异彩。
除了 RDK Studio 之外,RDK 开发板用户还可以通过地瓜开发者社区 NodeHub 应用了解更多大模型网关产品能力,在 NodeHub 提供的 RDK AI Gateway ROS 应用中就可以完成大模型网关权限申请和接口调用,页面中包含了详尽的操作手册和视频教程,访问官网即可获取。
NodeHub
未来,火山引擎将携手地瓜机器人将持续深化合作,为机器人开发提供更多模型能力及应用示例,助力开发者借助"云-边-端"的能力实现更多创新、有趣的应用,推动机器人行业蓬勃发展。