TopNews.pub

# Perangkat Lunak6

JD Ads Pangkas Latensi Inferensi AI 15% lewat Perombakan Sisi CPU

Lini periklanan JD menyebut hambatan sesungguhnya dalam rekomendasi iklan generatif ada di server serbaguna, bukan GPU. Bersama tim Kunpeng Huawei, mereka memadatkan empat lapis cache menjadi dua dan membangun ulang lapisan RPC, memangkas latensi inferensi ujung-ke-ujung 15% menjelang festival belanja 618.

🤖 AI1 mnt baca#Agen AI#Huawei

Anda telah mencapai akhir