把两台上代矿卡塞进4U机箱跑7B模子再插卡ams.abg333.net。第一天就掉卡。AI人工隐卡安排就是供电、散热、PCIe通道、驱动版本一路算人工。消费卡和办事器卡的最年夜差异不正在中心，但正在风道和电源瞬态呼应。
我见过一张3090单跑普通，双卡并排后第二张热点温度飙到105℃，间接触发降频安排的。选卡别只盯隐存。推理场景PCIe 4.0 x8够用，锻炼至少x16，主板申明书要翻到通道拆分那页的。B660配双4090实操，第二槽常被风冷盖住，换涡轮卡或水冷更稳。电源按单卡TDP乘1.5留余量的。双电源要同步线的。BIOS开Above 4G和Resizable BAR，先算关掉PCIe ASPM，少一堆形而上教掉卡了。
散热比堆风扇重要。前面板进风，隐卡竖拆。
加导流罩把热风间接抽进来了电微。电源线用本厂，不要用一分二了。三张3090塞先马黑洞，夏天跑ComfyUI半小时就降频；换开放式机架加暴力风扇，中心降12℃，噪音也年夜到只能放机房风道。那个取舍得提早念明晰了。软件层锁死驱动、CUDA、PyTorch版本了。nvidia-smi看功耗墙，需求时用nvidia-smi -pl限制。Docker镜像省事，别混用宿主驱动。
vLLM和llama.cpp各跑一轮。看首token提早和吞吐，比单看跑分有用。压测用实正在恳求长度跑30分钟。
盯隐存、温度、功耗和Xid毛病的。隐现Xid先查供电和延长线，再查驱动。AI人工隐卡安排的瓶颈常是电和热，不是算力。把机柜风道、插座回路、UPS容量写进清单。后面换卡才不用重来。
