Stanley's Blog

最近又有好消息，可以跟 Professor Ma 做一些 MLsys 方向的东西，还不错，虽然不是纯 sys，而是有点偏应用的 project，但从应用方向开始也是不错的，并且老师表示可以让我多留一个月，她会提供 stipend，虽然还不知道有多少，但应该可以 cover，毕竟中东还是有钱。还有十几天就要去中东，不得不说这个暑假真是过于充实了。 TA 的录取 offer 终于下来了，虽然才 1500 的工资，但这应该算是我在校外的第一份正式拿钱的兼职，还是当 TA 这种我很喜欢的工作，现在就只剩 PM 的消息了，希望也能有好的结果，这个我是最期待的了。 回家之后也搞了很多有意思的东西，直接把我 300 淘来的 Mac mini 刷成飞牛了（详情可见这个 blog）；又从闲鱼上买了一堆东西，花了真是贼多钱，算算账： 物品 价格（¥） 奥睿科硬盘柜 350 希捷 12 T 机械硬盘 700 超微 7048GR-TR 平台 准平台 1500 给服务器配的相应的 CPU、内存和固态 500 2080 Ti 22 G 显存 涡轮版 * 2 2390 *...

其实没有太多可以说的，今天再次尝试了搭建个人网页，尝试了很久，还挺有意思，就是太耗时了。之后写了一篇相关的 blog，也算是记录一下。

最近其实过的还挺正常的，也不能说正常吧，这两天算是重回正轨，室友被警察抓走了，还去保释他，也算是人生阅历又 +1 了。 不过认识了 Kan，然后现在基本每天都约着去图书馆，可以说是效率比较高了。 但是悲伤的事情就又来了，小鱼要跟我分手，真的一想到就好伤心好伤心，感觉她现在就像我生活中的底色一样，淡淡的，浅浅的，忙起来你就会忽视，但她一直都在。其实最开始就能感觉到她非常饱满情绪，她会表达出来，但我不会。我一直追求的平和的生活，似乎过于平和了，我希望我可以不情绪化，不管面对任何事都不情绪化，最后发现我好像已经丧失情绪化这个功能了。我好悲伤，但是只有刚想起来那一阵最为心痛，再之后这种情感好像就变淡了，可是这能说明我内心深处不珍视这段感情吗，可是如果这样的话我为什么这么舍不得呢？我不知道，感觉我也不会得到答案了。

Final Week 了，最近可以说是非常忙碌了。回国的机票都买完了，要坐将近两天飞机，感觉也是蛮离谱的。CS 525 也考完了，感觉应该还行，应该可以拿 A。CS 475 和 STAT 333 就剩一个尾巴了，所以只剩一个复习 354 了，希望问题不大，还没开始复习，笑死了，感觉东西还是挺多的。 不过今天心情还蛮不错的，有点好消息。除了这些考试都要考完了，我非常久之前申请的暑期的线上 TA 实习也终于有消息了，还以为直接无了，现在至少是第一候选人了。MBZUAI 也终于回复我了一个邮件，说明一切应该都还在 in process，但是快 20 天才回也是怪离谱的。CS 354 的 PM 也面试完了，整整面试了一个小时，也是比较抽象了，我记得这个时间也是最后一个可选的时间段，可能会很快出结果吧，跟 instructor 还是挺熟的，希望能有好的结果🙏。 加油了，也不知道一天够不够复习的，感觉够呛啊哈哈哈哈哈哈，又要焦虑了，毕竟一个 quiz 就能写很久。 最近还一直在看组 nas 或者组 GPU，回家之后打算先把我的 Mac mini 小主机用上，组一个 nas...

继续我的 docker。 之前遇到一个报错： Error: Failed to launch the browser process! undefined[579:579:0430/015358.567760:ERROR:zygote_host_impl_linux.cc(105)] Running as root without --no-sandbox is not supported. See https://crbug.com/638180.TROUBLESHOOTING: https://pptr.dev/troubleshooting ❯ ChildProcess.onClose node_modules/@puppeteer/browsers/src/launch.ts:507:11⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯[1/1]⎯ Test Files  1 failed (1)     ...

这本书发现的也算，比较曲折，是看到有一个人写的一篇知乎里推荐了一位博主吧，叫 ZOMI酱。虽然是在知乎发现的，但是他基本上是一个视频博主，所以B站看的话更方便，看了一个介绍视频之后发现了他这个AISys的开源书，发现直接看书也可以。目前感觉还是不错的。 AI 系统概述 这个 chapter 里面就全是介绍，感觉没啥说的，但反正读起来还算很顺，我觉得这种教科书性质的读起来很顺就很可以了。但如果你完全没有任何背景知识的话，估计读完就读完了，也不会有什么感受，如果你有一些背景知识的话，就算是帮你梳理一下体系。 AI 硬件体系结构 AI 计算体系概述 AI 计算模式 这里遇到了一些以前不知道的知识。 模型量化和网络剪枝，这两个技术都是为了解决模型太大，占用的内存太多的问题。 模型量化还有两种，非对称量化和对称量化。 量化 将浮点数（如 FP32）映射为整数（如 INT8、UINT8），以减小模型体积、加速推理。 对称量化（Symmetric Quantization） 概念 假设数据以 0 为中心对称分布 映射到整数范围 [-128,...

最近这两天也算搞了点有意思的，除了不想学习，其他干啥都有意思，笑死了。 走通了怎么在 Mac 上用虚拟机装 NAS，不得不说还是有点成就感的，就是这个公网确实是有点烦躁，搞不出公网访问，看看周末有没有时间再搞一搞。 我用的是飞牛的系统，不得不说作为一个开源的系统确实是看上去很不错，很简单，能直接用。相关的具体流程，包括踩了什么坑之类的打算开一个 NAS 相关的文档去写，这里就不写了。 除了 NAS，今天也算是把我这个 blog 网站的搜索功能加上了，用的本地搜索，搜索速度还是很快的。 这两天尽量把那个 intern 的自动测试给整出来，总是不想做，😮‍💨。

今天打算开始熟悉 SGLang，配置环境的过程果然出现问题了，就先记录一下。 Install from the source 的最后一步： (sglang-dev) zhengbowen@MacBookPro sglang % pip install -e "python[all]" --find-links https://flashinfer.ai/whl/cu124/torch2.5/flashinfer-python 出现了问题。 报错如下： INFO: pip is looking at multiple versions of sglang[srt] to determine which version is compatible with other requirements. This could take a while.ERROR: Could not find a version that satisfies the requirement sgl-kernel==0.0.8.post3; extra ==...

进入到了 2025 年，各家的 AI 模型可以说已经是强到不像话了，尤其是 DeepSeek 发布自己的模型之后，各家更是都要卷飞了，尤其是各个大厂，不仅卷性能，卷价格，使用体验上也可以说是卷飞了，正好最近高强度使用了 Google Gemini 2.5 Pro、DeepSeek R1（官网版本）和 ChatGPT o3，浅浅的评测一下。需要注意的是测试时间是 2025.4.22，模型性能可能会根据时间的不同而变化，所以这个评测结果是有时效性的。 整体使用体验 整体的使用体验，我觉得是 Google Gemini 2.5 Pro > ChatGPT o3 > DeepSeek R1。 UI UI 上 Gemini 和 ChatGPT 是真的有打磨的很好，但是 DeepSeek 就很粗糙了，但是这也很正常，毕竟 DeepSeek 这个官网模型就相当于是一个“样板间”一样的东西，甚至也没有收费这一说。 生成速度 生成速度方面 Google Gemini 2.5 Pro 一骑绝尘，真的太快了，ChatGPT o3 也可以接受，但是 DeepSeek...