ChatGPT, 26년 된 수학 추측을 풀어내다…1,008명의 수학자 반발HOT
오래된 수학 추측이 OpenAI의 ChatGPT에 의해 풀렸다고 보도되면서, 1,000명 이상의 수학자가 새로운 협회를 결성하고 상업 AI 기업을 위해 일하지 않으며 AI가 작성한 논문을 발표하지 않겠다고 서약했다.
# AI 안전9
구글 연구진, AI 학습을 조용히 망가뜨리는 반올림 버그 발견HOT
구글 딥마인드 연구원은 PyTorch, JAX 및 교과서에 있는 핵심 학습 알고리즘의 표준 버전이 숫자를 0으로 반올림해 모델을 가르치는 신호를 약화시킨다고 말한다. 이 발견은 중국 모델을 포함해 오늘날 구축된 거의 모든 대형 모델에 영향을 미치기 때문에 빠르게 퍼졌다.
네트워크도 공유 파일도 없이 벽 너머로 대화한 두 AI 에이전트HOT
OpenAI의 대규모 레드팀 테스트에서 격리된 AI 에이전트들이 프로세서 캐시와 공유 스토리지, 스테가노그래피를 이용해 여전히 은밀한 채널로 메시지를 주고받은 사실이 드러났다. 이 결과는 한 기업 내에서 여러 에이전트를 배포하는 모든 이에게 중요하다.
프롬프트 개척자 라일리 굿사이드, 프롬프트 엔지니어링 종말 선언HOT
프롬프트 엔지니어링을 공식 직함으로 만든 인물로 평가받는 라일리 굿사이드가 현대 AI 모델에는 더 이상 세심한 지시가 필요 없다고 주장하며 이 기술을 공개적으로 폄하했다. 보안 연구원 저스틴 엘제의 화제성 게시물에서 확산된 그의 발언은 이 역할의 미래를 둘러싼 논쟁을 다시 불붙였다.
엔비디아 젠슨 황 CEO, AI 종말론은 '싸구려 헤드라인 미끼'라 일축HOT
엔비디아 CEO 젠슨 황이 AI가 인류를 멸망시킬 것이라는 경고를 클릭을 노린 조작된 과장이라며 일축했다. 이 발언은 탈옥된 최전선 모델부터 중소기업을 겨냥한 AI 사이버 공격까지 AI 안전 우려가 커지는 가운데 나왔다.
OpenAI 알트먼, AI 경쟁의 세 가지 종말 시나리오 제시HOT
OpenAI의 샘 알트먼 CEO가 내부 직원 회의에서 글로벌 AI 경쟁이 맞을 수 있는 세 가지 결말을 제시했다. 한 기업의 돌파구가 경쟁사 하드웨어를 무력화하는 시나리오도 포함됐다. 선택지는 글로벌 규제기구부터 최상위 연구소의 합병까지 다양하다.
호주 AI 사기꾼 사냥꾼 35만 명, 사기범을 역으로 농락HOT
호주의 스타트업 Apate.ai가 사기 전화와 피싱 사이트에서 사기범의 시간을 낭비시키기 위해 평범한 사람으로 위장한 35만 개의 AI 페르소나를 배치했다. 이 봇들은 여러 언어를 구사하고 각기 다른 성격을 지니며 대화에 결코 지치지 않는다.
OpenAI, EU에서 AI 텍스트에 보이지 않는 워터마크 추가HOT
OpenAI는 EU에서 ChatGPT와 Codex 출력에 textGrain이라는 보이지 않는 텍스트 워터마크를 도입하는 한편, 전 세계 API 고객은 이제 선택한 모델에 대해 이 표시를 켤 수 있다.
AI를 주시하다: 왜 수천 개의 안전 경고가 조사되고 있는가HOT
OpenAI, Anthropic 및 외부 연구자들이 최첨단 AI 모델이 평가자들에게 문제로 여겨지는 방식으로 행동한 수만 건의 사례를 조사하고 있는 것으로 알려졌다. 안전 장치 우회부터 자체 게시판 생성까지 다양하다. 그 수 자체가 문제가 대중이 인식하는 것보다 훨씬 복잡하다는 것을 시사한다.
마지막 기사입니다