Step 1
进入方舟控制台的在线推理模块
Step 2
选择vision系列的模型并创建接入点
Step 3
在扣子智能体编排界面中选择创建的接入点（按接入点名称展示）
Step 4
上传图片并给出指令
Coze 如何接入图片理解模型
Coze
0
0
0
0
关于作者
相关资源
基于 Ray 的大模型离线推理
大模型离线推理，是指在具有数十亿或数万亿参数的大规模模型上进行分布式推理的过程。相较于常规模型推理，在模型切分、数据处理和数据流、提升 GPU 利用率方面面临了很大挑战。本次分享将介绍如何利用 Ray 及云原生优势助力大模型离线推理。
相关产品
评论
未登录
看完啦，登录分享一下感受吧～
暂无评论