Microsoft Copilot tạo ra hình ảnh bạo lực tình dục mà không chịu thay đổi, kỹ sư nội bộ tuyệt vọng báo cáo lên chính phủ!

Một nhân viên Microsoft cáo buộc công cụ AI tạo ra hình ảnh không phù hợp

Shane Jones, một quản lý kỹ thuật phần mềm tại Microsoft, đã tiết lộ rằng công cụ AI mới của công ty, Copilot Designer, đang tạo ra các hình ảnh mang tính khiêu dâm và bạo lực. Jones, người đã làm việc cho Microsoft trong sáu năm, đã thử nghiệm công cụ này trong thời gian rảnh rỗi và nhận thấy rằng nó thường xuyên tạo ra nội dung không phù hợp.

“Tôi rất lo lắng về những gì tôi đã nhìn thấy,” Jones nói với CNBC. “Đây không chỉ là vấn đề về hình ảnh khiêu dâm và bạo lực, mà còn liên quan đến các chủ đề như phá thai, vũ khí tự động và hình ảnh liên quan đến thanh thiếu niên.”

Trong một bức thư gửi cho Chủ tịch FTC Lina Khan và ban giám đốc Microsoft, Jones đã mô tả chi tiết những hình ảnh không phù hợp mà anh ta đã phát hiện được. Jones cũng đã chia sẻ rằng anh ta đã nhiều lần yêu cầu Microsoft ngừng phát hành Copilot Designer cho đến khi có các biện pháp bảo vệ tốt hơn, nhưng công ty đã từ chối.

Mặc dù Microsoft đã thừa nhận rằng Jones đã đúng, họ vẫn chưa quyết định rút sản phẩm khỏi thị trường. Thay vào đó, công ty đã khuyến nghị Jones liên hệ với OpenAI, công ty đứng sau công nghệ AI của Copilot Designer. Tuy nhiên, Jones cho biết anh ta chưa nhận được phản hồi nào từ OpenAI.

Trong một bài đăng công khai trên LinkedIn, Jones đã yêu cầu công ty OpenAI loại bỏ DALL-E 3, công cụ AI tạo ra hình ảnh của công ty. Tuy nhiên, Microsoft đã yêu cầu anh ta xóa bài đăng này.

Jones cũng đã gửi thư cho các thượng nghị sĩ Mỹ, kêu gọi họ xem xét vấn đề này. Hiện tại, anh ta đang tiếp tục nỗ lực để đưa vấn đề này lên bàn thảo luận của công chúng.

Microsoft đã trả lời rằng họ đang nỗ lực giải quyết tất cả các vấn đề do nhân viên đề xuất và khuyến khích nhân viên sử dụng các kênh báo cáo nội bộ để giúp công ty kiểm tra và cải thiện các mối lo ngại của họ.

Trong khi đó, Google đã tạm dừng chức năng tạo hình ảnh của công cụ AI Gemini vì những vấn đề tương tự. Jones hy vọng rằng Microsoft sẽ theo kịp và thực hiện các biện pháp bảo vệ cần thiết.

Liệu bạn nghĩ Microsoft nên thực hiện thêm các biện pháp bảo vệ hay cho rằng Jones đang quá khắt khe? Hãy để lại ý kiến của bạn trong phần bình luận.

Từ khóa:

• Microsoft
• Copilot Designer
• AIGC
• AI
• Shane Jones