SGLang EPLB 优化记录,算法部分。
-
Python环境下自动注入动态补丁方案
使用 Monkey Patch 以及模块检测的方法,实现对 Python 项目的无感知代码注入。
-
SGLang中模型权重内存信息抓取
针对SGLang框架的模型权重内存信息(包含设备指针等)的抓取笔记。
-
SGLang源码笔记(2)- Model权重加载相关
SGLang源码梳理笔记:模型权重加载相关代码。
-
SGLang源码笔记(1)- 从server启动到EPLB
SGLang源码梳理笔记:EPLB相关代码,从启动到进入EP管理器,以及对应的记录器与算法处理流程。
-
Effective Modern C++ 笔记(5)- 右值引用,移动语义,完美转发
Effective Modern C++ 第五章笔记 - 右值引用,移动语义,完美转发
-
Effective Modern C++ 笔记(番外)- 智能指针手撕(面试简化版)
Effective Modern C++ 笔记番外篇 - 智能指针手撕
-
Effective Modern C++ 笔记(4)- 智能指针
Effective Modern C++ 第四章笔记 - 智能指针
-
Effective Modern C++ 笔记(3)- 移步现代C++
Effective Modern C++ 第三章笔记 - 移步现代C++
-
Modern Cpp 并发编程笔记(2)- 进阶篇1
本文是对 C++ 并发编程一些进阶知识的学习笔记,包含死锁处理、线程池、C++17&20 新特性等。