JD Ads Pangkas Latensi Inferensi AI 15% lewat Perombakan Sisi CPUHOT
Lini periklanan JD menyebut hambatan sesungguhnya dalam rekomendasi iklan generatif ada di server serbaguna, bukan GPU. Bersama tim Kunpeng Huawei, mereka memadatkan empat lapis cache menjadi dua dan membangun ulang lapisan RPC, memangkas latensi inferensi ujung-ke-ujung 15% menjelang festival belanja 618.







































