Việc ra đi của các nhà nghiên cứu an toàn AI từ OpenAI

Việc ra đi của các nhà nghiên cứu an toàn AI từ OpenAI

Vào ngày 15 tháng 5, Ilya Sutskever, đồng sáng lập viên của OpenAI, đã thông báo trên mạng xã hội rằng ông quyết định rời khỏi OpenAI. Một vài giờ sau đó, Jan Leike, người đứng đầu nhóm Siêu Phối Hợp (Superalignment Team) của OpenAI, cũng thông báo việc ông rời khỏi công ty bằng một câu ngắn gọn: “Tôi đã từ chức”.

Nhóm Siêu Phối Hợp, chiếm 20% tài nguyên tính toán của OpenAI, được dẫn dắt bởi cả hai người này.

Theo thống kê, kể từ sự kiện hội đồng quản trị của OpenAI và việc Altman tái nhậm chức, danh sách những người có ý thức về an ninh rời khỏi OpenAI bao gồm: Ilya Sutskever, Jan Leike, Leopold Aschenbrenner, Pavel Izmailov, William Saunders, Daniel Kokotajlo và Cullen O’Keefe.

Bên cạnh đó, những người gần đây rời khỏi công ty còn có Chris Clark, người đứng đầu chương trình phi lợi nhuận và chiến lược, và Sherry Lachman, người đứng đầu bộ phận ảnh hưởng xã hội.

Mỗi khi một nhân viên của OpenAI thông báo việc họ rời khỏi công ty, thường có người hỏi: “Bạn đã thấy điều gì?” Tuy nhiên, không ai trả lời câu hỏi này.

Một số người dùng mạng xã hội nhận xét rằng: “OpenAI dường như không còn nhiều mục tiêu – CEO của họ giống như một người bán xe hơi cũ, và gần đây ông ấy đề cập đến việc xem xét cho phép AI của họ tạo ra nội dung khiêu dâm, và bây giờ lại tung ra một người bạn ảo AI để làm quà tặng cho con người.”

Musk từng ca ngợi Ilya: “Ilya Sutskever là chìa khóa cho thành công của OpenAI.” Altman cũng nói trong bài đăng thông báo việc rời đi của mình: “Không có anh ấy, OpenAI sẽ không tồn tại.”

Vào tháng 11 năm ngoái, Ilya cùng ba thành viên hội đồng quản trị khác đã buộc CEO nổi tiếng Sam Altman phải từ chức, nhưng sau đó ông ấy bày tỏ sự hối hận. Theo báo cáo, điểm tranh cãi chính là sự bất đồng về hướng đi của OpenAI: Ilya cảm thấy thất vọng vì Altman đang vội vàng đưa sản phẩm AI ra thị trường mà không quan tâm đến an toàn.

Altman trở lại OpenAI năm ngày sau khi bị loại khỏi vị trí, tái khẳng định quyền kiểm soát của mình và tiếp tục thúc đẩy công nghệ ngày càng mạnh mẽ hơn, điều này khiến một số người phê bình lo ngại. Ilya vẫn là nhân viên của OpenAI, nhưng ông ấy không quay lại làm việc.

Những nghi vấn về công việc của Ilya đã tạo ra một meme: “Ilya ở đâu? Anh ấy đã thấy gì?” Elon Musk, đồng sáng lập viên của OpenAI, thường tự đặt câu hỏi này trên nền tảng X (trước đây là Twitter).

Có thể thấy, Ilya đã giúp OpenAI tạo ra nhóm Siêu Phối Hợp vào năm ngoái, với nhiệm vụ xây dựng các biện pháp bảo vệ để ngăn chặn AI chung (AGI) mất kiểm soát. Cũng như những người khác, ông ấy ngày càng lo ngại rằng AI có thể trở nên nguy hiểm, thậm chí có thể hủy diệt loài người.

Tuy nhiên, nhóm Siêu Phối Hợp do Ilya và Leike lãnh đạo rất không ổn định.

Vào tháng 2, William Saunders đã rời OpenAI. Saunders đã làm việc trong nhóm an ninh từ năm 2021, sau đó nhóm này trở thành nhóm Siêu Phối Hợp. Saunders cũng là người quản lý nhóm Giải Thích, nhóm nghiên cứu về cách làm cho AGI an toàn và kiểm tra cách mô hình hoạt động. Ông ấy đã hợp tác viết một số bài báo về mô hình AI.

Cũng trong tháng này, Andrej Karpathy, một nhà khoa học nghiên cứu đáng kính, cũng thông báo rời OpenAI. Ông ấy nói rằng việc rời đi của mình không phải do bất kỳ sự kiện, vấn đề hay kịch bản nào cụ thể, mà là để theo đuổi dự án riêng của mình.

Karpathy là thành viên sáng lập của OpenAI, ban đầu rời công ty vào năm 2017 để gia nhập Tesla. Năm 2022, ông ấy rời Tesla và trở lại OpenAI khoảng một năm trước. Karpathy có hàng nghìn người theo dõi trên mạng xã hội và YouTube, nơi ông ấy chia sẻ các bài viết sâu sắc về lĩnh vực mới nổi và video giải thích cách hoạt động của AI.

Vào tháng 3, nhà nghiên cứu đối ứng Ryan Lowe rời OpenAI. Daniel Kokotajlo, người đã tham gia thử nghiệm đối kháng của GPT-4, cũng rời khỏi công ty. Kokotajlo viết trên trang cá nhân LessWrong rằng ông ấy rời đi vì “không còn niềm tin vào hành vi của AGI trong thời đại này”.

Ông ấy cũng đã tham gia cuộc thảo luận về việc tạm dừng phát triển AGI. Kokotajlo viết: “Hầu hết những người yêu cầu tạm dừng đều đang cố gắng chống lại ‘tạm dừng chọn lọc’ và yêu cầu tạm dừng thực tế đối với các phòng thí nghiệm tiên tiến nhất. Ý thức thất vọng của tôi là một phần lý do tôi rời khỏi OpenAI.”

Vào tháng 4, theo nguồn tin, OpenAI đã sa thải hai nhà nghiên cứu bị cáo buộc tiết lộ thông tin, trong đó có Leopold Aschenbrenner, đồng minh của Ilya. Nhà nghiên cứu Pavel Izmailov, người từng làm việc trong nhóm an ninh, cũng rời đi. Hiện nay, Izmailov đã chuyển sang làm việc cho xAI của Musk và sẽ trở thành giáo sư trợ giảng tại Đại học New York vào năm tới.

Gần đây, nhiều người bị cáo buộc tiết lộ thông tin cho bên ngoài cũng đã bị OpenAI sa thải.

“OpenAI đang mất đi những nhân tài xuất sắc và chú trọng an toàn nhất,” đây là nhận xét chung của mọi người. Trước số lượng lớn người rời khỏi OpenAI gần đây, nhiều người dùng mạng xã hội bắt đầu đùa rằng: “Tôi đã rời OpenAI.”

Từ trái sang phải: Jakub Pachocki, Greg Brockman, Ilya Sutskever, Sam Altman, Muri Murati

Trong hình trên, trừ Ilya, hầu như tất cả các thành viên quản lý quan trọng hiện tại của OpenAI đều có mặt.

Jakub Pachocki, nhà nghiên cứu chính yếu của OpenAI, sẽ thay thế Ilya đảm nhận vị trí Giám đốc Khoa học Công nghệ của công ty. Vào vài tuần trước khi Altman bị bãi miễn, Pachocki đã được thăng chức lên vị trí Giám đốc Nghiên cứu, từng được thăng chức lên ngang hàng với Ilya.

Pachocki đã gia nhập đội ngũ Dota của OpenAI vào năm 2017 với vai trò là Quản lý Nghiên cứu, đội ngũ này đã xây dựng một hệ thống AI có thể đánh bại người chơi con người trong trò chơi chiến thuật Dota 2 của Valve. Sau đó, Pachocki trở thành người phụ trách nghiên cứu về suy luận và khoa học sâu sắc tại OpenAI, rồi được thăng chức lên Giám đốc Nghiên cứu. Hiện chưa rõ liệu Pachocki có đảm nhận luôn vị trí lãnh đạo nhóm Siêu Phối Hợp của OpenAI hay không.

Sau khi Jan Leike rời đi, vị trí của ông ấy sẽ được đảm nhiệm bởi đồng sáng lập viên khác của OpenAI là John Schulman. Schulman đã đứng về phía Altman trong cuộc đảo chính hội đồng quản trị thất bại năm ngoái. Ngoài ra, Schulman còn giữ vai trò giám sát viên trong nhóm Siêu Phối Hợp.

Tất nhiên, OpenAI cũng đang tiếp tục thu hút thêm nhân tài trẻ. Những người trẻ tuổi đang hỗ trợ OpenAI. Ví dụ, Prafulla Dhariwal, người phụ trách đa phương tiện của GPT-4, chỉ có bằng cử nhân; một nhà nghiên cứu trong số những người viết bài báo về Sora mới chỉ 21 tuổi và chỉ tốt nghiệp trung học.

Tuy nhiên, như đã biết, OpenAI chủ yếu sử dụng các kỹ thuật được đề xuất bởi Google, nên sức mạnh nghiên cứu cốt lõi của họ không bằng khả năng kỹ thuật của họ. Việc các nhà khoa học lão thành rời đi đã gây ra mối lo ngại về tương lai của OpenAI: liệu OpenAI có thể đạt được AGI?

Nhu cầu nhân lực trong ngành AI là không thể phủ nhận, và các bộ phận liên quan đến AI khó tìm được nhân viên phù hợp. Cuộc chiến tuyển dụng nhân tài AI đã bắt đầu, và thậm chí một số công ty đã đề nghị mức lương 1 triệu đô la Mỹ mỗi năm.

Zuhayeer Musa, đồng sáng lập viên của Levels.fyi, cho biết trong một cuộc phỏng vấn rằng mức lương trung bình (bao gồm tiền thưởng và cổ phiếu) của OpenAI là 925.000 đô la Mỹ. Meta đã cung cấp mức lương trung bình khoảng 400.000 đô la Mỹ (bao gồm tiền thưởng và cổ phiếu) cho 344 kỹ sư máy học và AI.

Ngoài mức lương cao, từ các công ty khởi nghiệp nhỏ đến OpenAI, Meta, v.v., đều cung cấp các kế hoạch rút vốn cổ phiếu nhanh chóng, thậm chí cố gắng thu hút cả một nhóm.

“Họ không có rào cản. Những người đang làm nghiên cứu khoa học hiện đang làm nghiên cứu cho các công ty khác và điều này sẽ làm cho OpenAI cảm thấy sốc,” một người dùng mạng xã hội nhận xét về việc nhân tài rời khỏi OpenAI.

“Cần thiết cho Microsoft như OpenAI cần thiết cho Microsoft,” một người dùng mạng xã hội cho rằng, “khi làn sóng đổi mới về học sâu mới tiếp tục lan rộng toàn cầu, Microsoft sẽ nuốt chửng phần còn lại của OpenAI. Họ đã kiếm được rất nhiều tiền, nhưng không có tương lai trừ khi họ bù đắp những thứ đã mất.”

Sự liên kết chặt chẽ giữa OpenAI và Microsoft đã khiến một số người hy vọng rằng ít nhất là để bảo vệ thương hiệu, Microsoft có thể đầu tư vào nghiên cứu an ninh. Nhưng có phần mỉa mai là Microsoft đã nổi tiếng vì không thực hiện kiểm tra an ninh trước khi phát hành “sản phẩm AI”.

Nhiều người khác cho rằng OpenAI đang tập trung vào việc làm cho “con gà đẻ trứng vàng” này mang lại nhiều lợi nhuận hơn thông qua quảng cáo được nhúng, và tập trung vào việc cung cấp “an toàn” thông qua các hạn chế chủ đề, thay vì tiếp tục đi theo con đường AGI.

“Cơ hội để LLM đi đến AGI hoặc siêu thông minh là không có. Do đó, nếu đây là tất cả những gì OpenAI sẽ tập trung vào trong 5 năm tới, thì nhóm liên quan đến Siêu Phối Hợp không còn cần thiết,” một người dùng mạng xã hội nhận xét.

Có người suy đoán rằng hoặc là AGI quá xa vời, nên việc “đồng bộ hóa” không cần thiết, hoặc là Altman và những người khác đã xác định rằng điều này là rào cản cho thành công kinh doanh.

“Thực tế, chúng ta đã liên minh, điều này được gọi là chủ nghĩa tư bản,” cũng có người nói. “Chủ nghĩa tư bản chính là một loại AI không liên minh, và việc hiểu điều này có thể làm sáng tỏ nhiều vấn đề.”

“Sau gần một thập kỷ, tôi quyết định rời OpenAI. Quỹ đạo phát triển của công ty này xứng đáng là một kỳ tích, và tôi tin rằng OpenAI sẽ tạo ra AI an toàn và có ích,” Ilya, 38 tuổi, đã bổ sung rằng ông đang bắt đầu một dự án mới, nhưng không cung cấp chi tiết.

Karpathy và Ilya đều có dự án riêng của mình, rõ ràng, mọi người hy vọng những nhà khoa học AI vĩ đại này sẽ tiếp tục làm những điều có ý nghĩa. Tuy nhiên, chúng ta nên sớm nhìn thấy kết quả tổng kết của họ sau nhiều năm nghiên cứu AI.

Từ khóa:

• OpenAI
• AGI
• Ilya Sutskever
• Jan Leike
• Nhân tài AI