Trong 5 tháng từ 0 đến 1, Meta đã làm thế nào để tận dụng kiến trúc đơn thể để phát triển Threads nhanh chóng?

Phản biện từ bên trong: Rủi ro và Suy nghĩ về OpenAI

Mới đây, một cáo buộc đã được đưa ra từ một nhân viên cũ của OpenAI, William Saunders, tại một phiên điều trần về quy định của trí tuệ nhân tạo. Ông này cho biết rằng hệ thống quản lý của công ty có nhiều lỗ hổng, cho phép các kỹ sư có thể truy cập trái phép vào các hệ thống AI tiên tiến nhất, bao gồm cả GPT-4.

Saunders cũng nhấn mạnh rằng, mặc dù OpenAI đang phát triển các mô hình mới như o1, nhưng công ty vẫn chưa thực sự sẵn sàng để kiểm soát những rủi ro tiềm ẩn mà AI mang lại. Mô hình o1, theo ông, có thể giúp lập trình viên lập kế hoạch và tái tạo các mối đe dọa sinh học, tạo ra nguy cơ sử dụng AI như một vũ khí sinh học.

Đáng chú ý, việc OpenAI yêu cầu các nhân viên cũ ký vào các hợp đồng nghiêm ngặt, thậm chí đe dọa tước đi quyền lợi đã được hưởng nếu họ không chấp nhận, đã gây ra làn sóng phản đối nội bộ. CEO Sam Altman đã phải lên tiếng xin lỗi và cam kết sẽ thay đổi chính sách.

Ngoài ra, việc sa thải nhân viên Leopold Aschenbrenner vì chia sẻ thông tin với các nhà nghiên cứu bên ngoài cũng gây ra nhiều tranh cãi. Aschenbrenner cho biết, ông bị sa thải vì đã chia sẻ một bản ghi nhớ nội bộ về vấn đề an ninh của OpenAI với ban giám đốc, điều mà công ty coi là một hành động không phù hợp.

Saunders và những người khác cũng đã ký tên vào một bức thư mở, kêu gọi trách nhiệm của nhân viên hiện tại và cũ đối với các vấn đề liên quan đến AI. Họ nhấn mạnh rằng, mặc dù có các thỏa thuận bảo mật nghiêm ngặt, nhưng nhân viên cần phải có quyền cảnh báo về các rủi ro mà AI có thể gây ra.

Điều này đặt ra câu hỏi lớn về tương lai của AI và cách quản lý nó một cách hiệu quả và an toàn.