登录注册
首页
AI 大模型体验中心AI 大模型体验中心AI 大模型体验中心
动手实验室动手实验室动手实验室
Agent 评测集Agent 评测集Agent 评测集
AI 案例广场AI 案例广场AI 案例广场
火山杯大赛学习中心
社区
去发布
首页
AI 大模型体验中心AI 大模型体验中心AI 大模型体验中心
动手实验室动手实验室动手实验室
Agent 评测集Agent 评测集Agent 评测集
AI 案例广场AI 案例广场AI 案例广场
学习中心
社区
芯路笔记
芯路笔记
文章
专栏
问答
芯路笔记
芯路笔记
技术指南:从 lr/sc 到 qspinlock——RISC-V 原子操作与锁的 Linux 实践
开源后端
在单核系统里,"原子性"是一个几乎免费的属性:一条指令要么执行完,要么没执行,中断只会发生在指令边界;哪怕是最朴素的 read-modify-write 序列,只要关中断就能护住临界区。而一旦进入多核 SoC,两个核可以真正同时执行,"原子"从调度器的礼物变成了内存系统的责任——一次看似无害的 ,在汇编层面是 load、add、store 三步,两核交错执行就可能丢掉一次自增;而要把这三步护成一个
2
0
0
0
芯路笔记
芯路笔记
从数据并行到流水线协同——RISC-V 端侧多核推理的任务编排与同步开销治理
开源后端
本文承接上一篇,把讨论从"怎么划分"推进到"怎么协同":编排模式的选择、同步原语的代价治理、流水线级间的数据流转设计,以及同步开销的实测方法。先立框架:同步的每一次发生,都是并行度的暂停。优化的方向因此不是"更快地同步",而是"更少地同步"——前者是微架构问题,后者是设计问题,本文以后者为纲。端侧推理的多核编排可归纳为三种模式,各自以不同的方式支出协同成本。同一模型复制到多个核,输入按帧/按 ba
3
0
0
0
芯路笔记
芯路笔记
RISC-V 端侧AI多核推理深度专题:任务划分、负载均衡与缓存一致性维护
技术后端
算子级并行(inter-operator)把模型图切分为子图分派到不同核,收益上限受图结构约束:算子数量多、依赖链短的图容易切分,层数深、串行依赖强的模型难以获得收益。算子内并行(intra-operator)把单个算子的工作集沿 batch、序列、输出通道或矩阵分块等维度拆分到多个核,这是端侧更常见的形式:大模型主计算集中在少数几类算子上,按算子划分不足以支撑核数较多时的切分。流水线并行以层为划
8
0
0
0