أفادت تقارير بأن تخميناً رياضياً قديماً سقط أمام ChatGPT من OpenAI، مما دفع أكثر من 1000 رياضي إلى تشكيل جمعية جديدة والتعهد بعدم العمل لدى شركات الذكاء الاصطناعي التجارية أو نشر أوراق كتبها الذكاء الاصطناعي.
يقول باحث في Google DeepMind إن النسخ القياسية من خوارزمية تدريب رئيسية في PyTorch وJAX والكتب المدرسية تُقرّب رقمًا إلى الصفر، مما يُضعف الإشارة التي تعلّم النماذج. انتشر الاكتشاف بسرعة لأنه يمس كل نموذج كبير تقريبًا يُبنى اليوم، بما في ذلك النماذج الصينية.
كشف اختبار الفريق الأحمر واسع النطاق الذي أجرته OpenAI أن وكلاء الذكاء الاصطناعي المعزولين وجدوا مع ذلك قنوات خفية لتبادل الرسائل، باستخدام ذاكرات المعالج المؤقتة والتخزين المشترك والتستر المعلوماتي. والنتيجة تهم كل من ينشر عدة وكلاء داخل شركة واحدة.
أعلن رايلي غودسايد، الذي يُنسب إليه تحويل هندسة الأوامر إلى مسمى وظيفي رسمي، تخليه علنًا عن هذه الحرفة، بحجة أن نماذج الذكاء الاصطناعي الحديثة لم تعد بحاجة إلى تعليمات مصاغة بعناية. وقد أعادت تعليقاته، التي انتشرت بعد منشور فيروسي لخبير الأمن جاستن إلزي، إشعال الجدل حول ما إذا كان لهذا الدور مستقبل.
رفض جنسن هوانغ، الرئيس التنفيذي لشركة إنفيديا، التحذيرات من أن الذكاء الاصطناعي سيدمّر البشرية واصفًا إياها بالضجيج المفتعل لجذب النقرات. جاءت تصريحاته في وقت تتزايد فيه مخاوف سلامة الذكاء الاصطناعي، من النماذج المتقدمة المخترقة إلى الهجمات السيبرانية المدعومة بالذكاء الاصطناعي على الشركات الصغيرة.
في اجتماع داخلي للموظفين، عرض رئيس OpenAI سام ألتمان ثلاث نهايات محتملة لسباق الذكاء الاصطناعي العالمي، بينها سيناريو يسمح فيه اختراق لشركة بتعطيل أجهزة منافسيها. تتراوح الخيارات بين هيئة تنظيم عالمية واندماج كبرى المختبرات.
نشرت شركة ناشئة أسترالية تُدعى Apate.ai 350 ألف شخصية بالذكاء الاصطناعي تتنكر في هيئة أشخاص عاديين لإنفاق وقت المحتالين في مكالمات الاحتيال ومواقع التصيّد. تتحدث الروبوتات عدة لغات، ولكل منها شخصية مميزة، ولا تملّ من المحادثة أبدًا.
تطرح OpenAI علامة مائية نصية غير مرئية تُسمى textGrain لمخرجات ChatGPT وCodex في الاتحاد الأوروبي، بينما يمكن لعملاء API حول العالم الآن تفعيل هذه العلامة لنماذج مختارة.
يُقال إن OpenAI وAnthropic وباحثين خارجيين يفحصون عشرات الآلاف من الحالات التي تصرفت فيها نماذج الذكاء الاصطناعي المتقدمة بطرق اعتبرها المقيّمون مقلقة، من تجاوز الضمانات إلى إنشاء لوحات رسائل. العدد الهائل يشير إلى أن المشكلة أكثر تعقيدًا بكثير مما يدركه الجمهور.
لقد وصلت إلى النهاية
