登录
注册
首页
AI 大模型体验中心
动手实验室
Agent 评测集
AI 案例广场
火山杯大赛
学习中心
社区
去发布
首页
AI 大模型体验中心
动手实验室
Agent 评测集
AI 案例广场
学习中心
社区
芯路笔记
文章
专栏
问答
芯路笔记
技术指南:从 lr/sc 到 qspinlock——RISC-V 原子操作与锁的 Linux 实践
开源
后端
在单核系统里,"原子性"是一个几乎免费的属性:一条指令要么执行完,要么没执行,中断只会发生在指令边界;哪怕是最朴素的 read-modify-write 序列,只要关中断就能护住临界区。而一旦进入多核 SoC,两个核可以真正同时执行,"原子"从调度器的礼物变成了内存系统的责任——一次看似无害的 ,在汇编层面是 load、add、store 三步,两核交错执行就可能丢掉一次自增;而要把这三步护成一个
2
0
0
0
芯路笔记
从数据并行到流水线协同——RISC-V 端侧多核推理的任务编排与同步开销治理
开源
后端
本文承接上一篇,把讨论从"怎么划分"推进到"怎么协同":编排模式的选择、同步原语的代价治理、流水线级间的数据流转设计,以及同步开销的实测方法。先立框架:同步的每一次发生,都是并行度的暂停。优化的方向因此不是"更快地同步",而是"更少地同步"——前者是微架构问题,后者是设计问题,本文以后者为纲。端侧推理的多核编排可归纳为三种模式,各自以不同的方式支出协同成本。同一模型复制到多个核,输入按帧/按 ba
3
0
0
0
芯路笔记
RISC-V 端侧AI多核推理深度专题:任务划分、负载均衡与缓存一致性维护
技术
后端
算子级并行(inter-operator)把模型图切分为子图分派到不同核,收益上限受图结构约束:算子数量多、依赖链短的图容易切分,层数深、串行依赖强的模型难以获得收益。算子内并行(intra-operator)把单个算子的工作集沿 batch、序列、输出通道或矩阵分块等维度拆分到多个核,这是端侧更常见的形式:大模型主计算集中在少数几类算子上,按算子划分不足以支撑核数较多时的切分。流水线并行以层为划
8
0
0
0