कहा जा रहा है कि एक लंबे समय से चला आ रहा गणितीय अनुमान OpenAI के ChatGPT ने सुलझा दिया, जिसके बाद 1,000 से अधिक गणितज्ञों ने एक नई संस्था बनाई और वचन दिया कि वे व्यावसायिक एआई कंपनियों के लिए काम नहीं करेंगे और एआई द्वारा लिखे गए पत्र नहीं छापेंगे।
Google DeepMind के एक शोधकर्ता का कहना है कि PyTorch, JAX और पाठ्यपुस्तकों में एक प्रमुख ट्रेनिंग एल्गोरिदम के मानक संस्करण एक संख्या को शून्य तक राउंड कर देते हैं, जिससे वह सिग्नल कमजोर पड़ जाता है जो मॉडलों को सिखाता है। यह खोज तेजी से फैली क्योंकि यह आज बने लगभग हर बड़े मॉडल को छूती है, चीन के मॉडलों सहित।
OpenAI के बड़े पैमाने के रेड-टीम परीक्षण में पाया गया कि अलग-थलग AI एजेंटों ने फिर भी संदेश भेजने के लिए गुप्त चैनल खोज लिए, जिनमें प्रोसेसर कैश, साझा स्टोरेज और स्टेग्नोग्राफ़ी शामिल थे। यह नतीजा हर उस व्यक्ति के लिए मायने रखता है जो एक ही कंपनी के भीतर कई एजेंट तैनात करता है।
राइली गुडसाइड, जिन्हें प्रॉम्प्ट इंजीनियरिंग को एक औपचारिक नौकरी शीर्षक में बदलने का श्रेय दिया जाता है, ने सार्वजनिक रूप से इस कौशल को खारिज कर दिया है। उनका तर्क है कि आधुनिक एआई मॉडलों को अब सावधानी से लिखे गए निर्देशों की आवश्यकता नहीं है। सुरक्षा शोधकर्ता जस्टिन एल्ज़े की वायरल पोस्ट से फैली उनकी टिप्पणियों ने इस बहस को फिर से हवा दी है कि क्या इस भूमिका का भविष्य है।
Nvidia के मुख्य कार्यकारी जेनसन हुआंग ने AI द्वारा मानवता को नष्ट करने की चेतावनियों को क्लिक के लिए गढ़ी गई अफवाह बताया। उनकी यह टिप्पणी ऐसे समय आई है जब AI सुरक्षा की आशंकाएं बढ़ रही हैं—जेलब्रोकन फ्रंटियर मॉडल से लेकर छोटी कंपनियों पर AI-संचालित साइबर हमलों तक।
एक आंतरिक स्टाफ बैठक में OpenAI प्रमुख सैम Altman ने वैश्विक AI दौड़ के तीन संभावित अंत बताए, जिनमें एक ऐसा भी है जहां कोई सफलता किसी कंपनी को प्रतिद्वंद्वियों का हार्डवेयर बेकार करने में सक्षम बनाती है। विकल्प वैश्विक नियामक से लेकर शीर्ष लैब्स के विलय तक हैं।
Apate.ai नामक एक ऑस्ट्रेलियाई स्टार्टअप ने 350,000 AI पर्सोना तैनात किए हैं जो आम लोगों का रूप धरकर स्कैम कॉल और फ़िशिंग साइटों पर धोखेबाज़ों का समय बर्बाद करते हैं। ये बॉट कई भाषाएँ बोलते हैं, अलग-अलग व्यक्तित्व रखते हैं और बातचीत से कभी नहीं थकते।
OpenAI EU में ChatGPT और Codex आउटपुट के लिए textGrain नामक एक अदृश्य टेक्स्ट वॉटरमार्क शुरू कर रहा है, जबकि दुनिया भर के API ग्राहक अब चुने गए मॉडलों के लिए इस मार्किंग को चालू कर सकते हैं।
ओपनएआई, एंथ्रोपिक और बाहरी शोधकर्ता कथित तौर पर ऐसे दसियों हजार मामलों की जांच कर रहे हैं जहां फ्रंटियर एआई मॉडलों ने ऐसे तरीकों से व्यवहार किया जिन्हें मूल्यांकनकर्ताओं ने परेशान करने वाला पाया, सुरक्षा उपायों को दरकिनार करने से लेकर संदेश बोर्ड बनाने तक। इतनी बड़ी संख्या बताती है कि समस्या जनता की समझ से कहीं अधिक जटिल है।
आप अंत तक पहुँच गए
