구글 연구진, AI 학습을 조용히 망가뜨리는 반올림 버그 발견HOT
구글 딥마인드 연구원은 PyTorch, JAX 및 교과서에 있는 핵심 학습 알고리즘의 표준 버전이 숫자를 0으로 반올림해 모델을 가르치는 신호를 약화시킨다고 말한다. 이 발견은 중국 모델을 포함해 오늘날 구축된 거의 모든 대형 모델에 영향을 미치기 때문에 빠르게 퍼졌다.
구글 딥마인드 연구원은 PyTorch, JAX 및 교과서에 있는 핵심 학습 알고리즘의 표준 버전이 숫자를 0으로 반올림해 모델을 가르치는 신호를 약화시킨다고 말한다. 이 발견은 중국 모델을 포함해 오늘날 구축된 거의 모든 대형 모델에 영향을 미치기 때문에 빠르게 퍼졌다.
최고의 AI 연구자들이 Minecraft를 자율 에이전트의 벤치마크로 전환하고 있다. 모델이 나무를 베고, 광석을 캐고, 제작하며 게임을 처음부터 클리어할 수 있는지 시험하는 것이다. 팀들은 리더보드에서 경쟁하며, 단일 에이전트와 다중 에이전트 팀이 각기 다른 접근법을 취한다.
OpenAI가 GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna, Codex를 구글 클라우드에 제공한다. 치열한 경쟁 관계인 두 회사 간의 이례적인 계약이다. 첫 모델은 이미 일부 기업 고객에게 제공되고 있으며 추가 통합도 계획돼 있다.
오픈소스 코딩 도구 OpenCode의 보안 결함으로 OpenAI, Claude, Gemini의 API 키가 노출되어 공격자들이 개발자의 선불 크레딧을 하룻밤 사이에 소진할 수 있게 되었다. 이 사건은 AI 도구 공급망에 대한 신뢰에 새로운 의문을 제기한다.
구글 딥마인드가 복잡한 추론과 AI 코딩을 위해 구축된 프런티어 모델 Gemini 4 Argon을 공개했다. 벤치마크 표에서는 앞서지만 실제 작업에서는 뒤처진다고 전해진다. 제한된 Fairwind 프로그램을 통해 보안 방어 담당자에게 먼저 제공된다.
마지막 기사입니다