Leoda

2026-Q3

7 min read

2026-08-11（周二） Daily

🧠 今天记录

  • [ ]

🚀 今日TODO

2026-08-10（周一） Daily

🧠 今天记录

  • 确定基流 ppu 上裸机只有 mlx 的 ofed，什么都不改，当前的 ibrc 就可以跑通。pr 的 accl 的适配需要裸机有阿里云的 eic 内核，并且网卡名字必须得是vsolar_* ✅ 2026-08-10
  • 看 sglang 内 prefill开 pp 后，一打多的流量拥塞 case ✅ 2026-08-11

🚀 今日TODO

2026-08-07（周五） Daily

🧠 今天记录

  • [ ]

🚀 今日TODO

  • ppu sglang 跑通flagcx/mooncake glm5.2 w4a8

2026-08-06（周四） Daily

🧠 今天记录

  • [ ]

🚀 今日TODO

2026-08-05（周三） Daily

🧠 今天记录

  • 基流 PPU 机器准备代理镜像环境模型文件等等
  • 同步明宇 PPU 侧 VLLM 跑通用 barex 的推理 ✅ 2026-08-05

🚀 今日TODO

  • 修复趋境在mooncake te + flagcx transport的场景出现的数据传输出错的 bug ✅ 2026-08-05
  • [ ]

2026-08-04（周二） Daily

🧠 今天记录

🚀 今日TODO

2026-08-03（周一） Daily

🧠 今天记录

  • cuda api 调用失败原理： ✅ 2026-08-03 runtime 会把每次当前 api 调用的错误码记录在线程上，然后下一次 cuda 调用的时候不管什么都先返回这个错误码（比如cudaErrorInvalidValue=1）

🚀 今日TODO

  • sglang0.5.12 支持 flagcx connector ✅ 2026-08-03

2026-07-30（周四） Daily

🧠 今天记录

  • [ ]

🚀 今日TODO

  • 改DModel debug 1f1b串行并验证，并 debug ✅ 2026-07-30

2026-07-29（周三） Daily

🧠 今天记录

  • 确定 6 个相位为什么需要的显存比原本多了这么多 ✅ 2026-07-30

🚀 今日TODO

  • 改DModel debug 1f1b串行并验证，并 debug ✅ 2026-07-30
  • review dmodel 代码 ✅ 2026-07-29

2026-07-28（周二） Daily

🧠 今天记录

  • 和梦思讨论 https://github.com/flagos-ai/vllm-plugin-FL/pull/315/changes 代码的合入(修复关 flagGems 的报错，修复 flagcx.py的二次 * + &， 修复 flagcx connector 传乱请求) ✅ 2026-07-28
  • 复现和定位 泽宇说的性能下降问题 cc 给常涛 ✅ 2026-07-27
  • 带明宇先开始基础的工作，先写一个pr 关于传 fd 给 dma register，并 review 代码✅ 2026-07-27
  • 写材料交给明月，ddl：今天 ✅ 2026-07-28
  • 跟明宇交代 berax transport 内用 accl 注册 user mr以及后续如果用 flagcx p2p engine 完成 ppu 的传输 ✅ 2026-07-28
  • ppu 机器网卡问题待解决中 ✅ 2026-07-29
    • 已经与高鹏说了该问题 ✅ 2026-07-28
  • 学院 4 机 a2a 性能低排查 ✅ 2026-07-28

🚀 今日TODO

  • sglang 支持 flagcx connector
  • 改DModel debug 1f1b串行并验证，并 debug
  • review dmodel 代码

2026-07-27（周一） Daily

🧠 今天记录

  • 和梦思讨论 https://github.com/flagos-ai/vllm-plugin-FL/pull/315/changes 代码的合入(修复关 flagGems 的报错，修复 flagcx.py的二次 * + &， 修复 flagcx connector 传乱请求)
  • 复现和定位 泽宇说的性能下降问题 cc 给常涛 ✅ 2026-07-27
  • 带明宇先开始基础的工作，先写一个pr 关于传 fd 给 dma register，并 review 代码✅ 2026-07-27
  • 写材料交给明月，ddl：今天 ✅ 2026-07-30
  • 改DModel debug 1f1b串行并验证，并 debug
  • review dmodel 代码
  • ppu 机器网卡问题待解决中

🚀 今日TODO

  • [ ]

2026-07-23（周四） Daily

🧠 今天记录

  • [ ]

🚀 今日TODO

  • [ ]

2026-07-22（周三） Daily

🧠 今天记录

  • [ ]

🚀 今日TODO

  • 沐曦 Qwen3.6-35B 基线性能确认
  • 整理当前flagcx connector代码，提交到vllm-plugin-fl
  • 继续调试海光Qwen3.6-35B
  • 沐曦 Mooncake 基线对比

2026-07-21（周二） Daily

🧠 今天记录

  • [ ]

🚀 今日TODO

  • [ ]

2026-07-16（周四） Daily

🧠 今天记录

  • [ ]

🚀 今日TODO

  • 验证新 flagcx connector与新 mooncake connector 在旧 qwen 上的 pd 分离性能 ✅ 2026-07-16
  • 给颜明宇安排工作 ✅ 2026-07-16
  • muxi 卡的 cudaGraph bug ✅ 2026-07-16
  • muxi 卡的选择网卡的 bug
  • DModel fwd+bwd切分相位的设计文档
  • 和治鑫约一下后续 DModel 的 2 microbatch overlap 的事宜 ✅ 2026-07-16

2026-07-13（周一） Daily

🧠 今天记录

  • [ ]

🚀 今日TODO

  • [ ]

2026-07-09（周四） Daily

🧠 今天记录

  • 不同 te 的话 DModel 内的改动范围是？
  • VCCL manager 的简化，内存问题的优化？

🚀 今日TODO

2026-07-07（周二） Daily

🧠 今天记录

  • 确定一下 send_kv_to_decode 内的几次 for loop 看一下是不是可以打掉

🚀 今日TODO

  • [ ]

2026-07-06（周一） Daily

🧠 今天记录

  • .contents ： value→ref ✅ 2026-07-09
  • byref ✅ 2026-07-09

🚀 今日TODO

  • [ ]

2026-07-03（周五） Daily

🧠 今天记录

  • 2点治鑫会议-alltoall ✅ 2026-07-07

🚀 今日TODO

Graph View