关于我
我的 infra 之路始于 Intel SYCL C++,而后在曙光 DCU 研究扩散模型的并行加速训练,最多带到万卡规模,也在昇腾上做过推理研究。
高中期间就开始写前后端,所以也是个不太专业的“全干”开发者。现在是古法编程遗忘者,Spec Coding 热衷者。
项目
全部项目最近文章
共 193 篇文章过去一年 7 天有更新
解读 TAOT:MoE 动态副本调度优化 EP 负载的新思路
我常说自己现在是研究训练 infra 的,但回顾自己在个人博客等平台发表的文章,一直没有在这个方向有所产出。所以,借着这次契机来分享和学习一下我们团队最近发表的一篇关于专家并行不均衡问题的文章吧。
· ai infra

lens|打造最强的个人LLM聚合网关系统
事实上,为个人打造的LLM聚合网关系统已经有很多,例如octopus,metapi等,究竟要不要重复造一个轮子让我思考了很久。
· llm

conda base 环境还原,不用重装法
最近,偶然发现很多包都被安装到了base环境,我是有一个“洁癖”的人,这样我肯定受不了,何况 base 包越多,初始化的时候就要加载很多时间。

2025 年终总结
又到了一年总结季,想着去年的文章实属发得太迟了,所以临近新年的今天 12.29 15:11 开始起草了!

Claude Code 教程
最近在研究怎么更好地用 Claude Code,顺手写了个系列。
· Claude

工作经历
- Baidu全职2026-现在目前探索LLM/VLM的优化...那个,我们的LoongForge训练框架请star一下
- QingCheng-AI实习2024年10月-2025年8月参与**-image训练搭建 & chitu推理引擎的维护
- MindSpore实习(远程)2024.04 - 2024.10mindnlp & mindspore相关打水
- softsz实习2021.04 - 2022.05某**平台的后端开发
- nankai某NLP实验室实习2020.11 - 2021.08各种前后端系统独立开发和交付
常用技术
Python
CUDA
C++
JavaScript
HTML5
Vue
PHP
Docker
Slurm
Ubuntu