選擇性復甦的真相:AI 溢出效應與財政支出撐起投資端,消費端為何跟不上?
主題背景
目前市場正處於「AI 外溢效應 (Spillover Effect)」的關鍵十字路口。過去兩年,資金瘋狂湧入 AI 基礎建設(晶片、資料中心、電力),賭的是這項技術能像電力或網際網路一樣,最終滲透到所有產業並重塑消費行為。這種技術擴散的預期,是支撐 2024-2025 年科技股牛市的核心支柱。
國際政經背景
國際政經背景
Recently, I benchmarked vLLM on a GPU to better understand how much throughput can realistically be expected in an LLM serving setup.
最近用 GPU 跑了 vLLM 的 benchmark,想了解在 LLM serving 的環境下,實際上能期待多少 throughput。
When running long tests on macOS, the machine may go to sleep if you don’t touch it. There’s a built-in command that keeps it awake.
在 macOS 上跑長時間的測試,如果一段時間沒碰電腦,機器可能會進入睡眠。 其實有個內建的指令可以讓它保持清醒。
Recently, I started experimenting with Claude Code Skills.
最近開始試用 Claude Code Skills。
題目 每個伺服器支援不同的 TPM (transaction per minute) 當 request 來的時候, 系統需要馬上根據 TPM 的能力隨機找到一個適合的 server. 雖然稱為 "隨機", 但還是需要有 TPM 作為權重. 解法 別名演算法(Alias Method)是一種有效率地...