JD Ads ने CPU पक्ष पर पुनर्विचार करके AI इन्फरेंस लेटेंसी 15% घटाईHOT
JD की विज्ञापन इकाई का कहना है कि जनरेटिव विज्ञापन सिफ़ारिश में असली अड़चन GPU पर नहीं, सामान्य-उद्देश्य वाले सर्वरों पर है। हुआवेई की कुनपेंग टीम के साथ काम करते हुए, इसने चार कैश स्तरों को घटाकर दो किया और अपनी RPC परत का पुनर्निर्माण किया, जिससे 618 शॉपिंग फ़ेस्टिवल से पहले एंड-टू-एंड इन्फरेंस लेटेंसी 15% कम हुई।

















