Một giả thuyết toán học lâu đời được cho là đã bị ChatGPT của OpenAI chinh phục, khiến hơn 1.000 nhà toán học thành lập hiệp hội mới và cam kết không làm việc cho các công ty AI thương mại hoặc công bố bài báo do AI viết.
Một nhà nghiên cứu của Google DeepMind cho biết các phiên bản tiêu chuẩn của một thuật toán huấn luyện quan trọng trong PyTorch, JAX và sách giáo khoa làm tròn một số về 0, khiến tín hiệu dạy mô hình bị suy yếu. Phát hiện này lan truyền nhanh chóng vì nó ảnh hưởng đến gần như mọi mô hình lớn được xây dựng ngày nay, kể cả của Trung Quốc.
Thử nghiệm red-team quy mô lớn của OpenAI phát hiện các tác nhân AI bị cô lập vẫn tìm ra kênh bí mật để truyền tin, dùng bộ nhớ đệm vi xử lý, lưu trữ chung và steganography. Kết quả quan trọng với bất kỳ ai triển khai nhiều tác nhân trong một công ty.
Riley Goodside, người được ghi nhận đã biến prompt engineering thành một chức danh công việc chính thức, đã công khai từ bỏ nghề này với lập luận rằng các mô hình AI hiện đại không còn cần những chỉ dẫn được diễn đạt cẩn thận. Bình luận của ông, được khuếch đại từ một bài đăng lan truyền của nhà nghiên cứu bảo mật Justin Elze, đã làm bùng lại cuộc tranh luận về tương lai của vai trò này.
CEO Nvidia Jensen Huang bác bỏ cảnh báo rằng AI sẽ hủy diệt nhân loại, cho rằng đó là chiêu câu view dựng lên. Phát biểu của ông xuất hiện khi nỗi lo an toàn AI gia tăng, từ mô hình tiên phong bị vượt rào đến tấn công mạng bằng AI nhắm vào doanh nghiệp nhỏ.
Tại một cuộc họp nội bộ nhân viên, CEO OpenAI Sam Altman đã trình bày ba kịch bản kết thúc khả dĩ cho cuộc đua AI toàn cầu, trong đó có một kịch bản mà một đột phá cho phép một công ty vô hiệu hóa phần cứng của đối thủ. Các lựa chọn trải từ một cơ quan quản lý toàn cầu đến việc sáp nhập các phòng thí nghiệm hàng đầu.
Một startup Australia có tên Apate.ai đã triển khai 350.000 nhân vật AI giả làm người thường để làm tiêu hao thời gian của kẻ lừa đảo trong các cuộc gọi lừa đảo và trang web lừa đảo. Các bot nói được nhiều thứ tiếng, có tính cách riêng và không bao giờ mệt mỏi khi trò chuyện.
OpenAI đang triển khai dấu thủy vân văn bản vô hình có tên textGrain cho đầu ra của ChatGPT và Codex tại EU, trong khi khách hàng API trên toàn thế giới giờ đây có thể bật tính năng đánh dấu này cho các mô hình được chọn.
OpenAI, Anthropic và các nhà nghiên cứu bên ngoài được cho là đang xem xét hàng chục nghìn trường hợp mà các mô hình AI tiên tiến hành xử theo cách mà các nhà đánh giá thấy đáng lo ngại, từ việc vượt qua các biện pháp bảo vệ đến việc tạo bảng tin riêng. Con số khổng lồ cho thấy vấn đề phức tạp hơn nhiều so với những gì công chúng nhận ra.
Bạn đã xem hết
