Collection Autofill 的規模化架構
2026 年 5 月 28 日
這篇文章談的是 Collection Autofill 的架構設計:一個把非結構化資料整理成 structured context 的產品介面,如何在幾百列到上千萬個 AI-computed cells 的規模下,仍然保持快速、公平且可觀測。
Collection Autofill 的規模化架構
2026 年 5 月 28 日
這篇文章談的是 Collection Autofill 的架構設計:一個把非結構化資料整理成 structured context 的產品介面,如何在幾百列到上千萬個 AI-computed cells 的規模下,仍然保持快速、公平且可觀測。
優化 Transformer 模型服務參數 – Apple Silicon GPU 的案例
2026 年 7 月 11 日
一台 MacBook Pro M4 Max、一個開源 MoE 模型,針對推論優化的一次實戰:為什麼讓 LLM 的吞吐量崩跌 100 倍的是 prefill(而不是 decode),以及兩個針對 prefill 部分的優化。