Nạn nhân thứ hai của “Black Myth: Wukong” đã xuất hiện, và đó lại là do tìm kiếm AI gây ra!

Thị trường trò chơi trực tuyến Việt Nam đã chứng kiến một sự kiện đáng chú ý khi game 3A “Black Myth: Wukong” trở nên cực kỳ phổ biến trên toàn cầu. Chỉ trong một ngày, doanh số của game này đã vượt quá 4,5 triệu bản trên nhiều nền tảng khác nhau, với tổng doanh thu lên tới hơn 1,5 tỷ nhân dân tệ. Tuy nhiên, cũng có những trường hợp người chơi gặp phải vấn đề không mong muốn liên quan đến trò chơi này.

Trong ngày mở khóa trên Steam, một streamer nổi tiếng đã gặp phải tình trạng chóng mặt khi chơi game, điều này đã khiến anh ấy trở thành chủ đề hot trên Weibo và bị mọi người chế giễu là “nạn nhân đầu tiên” của “Black Myth: Wukong”. Vào ngày 21 tháng 8, một nạn nhân khác đã xuất hiện, và sự việc này lại liên quan đến Microsoft.

Khi tìm kiếm thông tin về dịch vụ khách hàng của “Black Myth: Wukong” trên công cụ tìm kiếm Bing của Microsoft, người dùng đã nhận được một số thông tin sai lệch. Một số số điện thoại cá nhân không liên quan đã được hiển thị như là số điện thoại của dịch vụ khách hàng, bao gồm cả số điện thoại của một nhân viên từ một trang web máy tính và địa chỉ email của bộ phận bản quyền của First Financial.

Người bị lộ thông tin cho biết rằng anh ta đã nhận được khoảng 20 cuộc gọi trong vòng 5 giờ. Sự cố này chủ yếu xảy ra do trợ lý AI của Bing đã lấy thông tin sai lệch, dẫn đến việc thông tin cá nhân của họ bị lộ. Dù bài viết liên quan đã bị xóa và nạn nhân đã gửi đơn khiếu nại, thông tin sai lệch vẫn xuất hiện trên trang chủ của Bing trong một thời gian.

Microsoft, công cụ tìm kiếm lớn thứ hai thế giới, hiện đang hoạt động tại 36 quốc gia và vùng lãnh thổ với hơn 600 triệu người dùng. Vào ngày 7 tháng 2 năm 2023, Microsoft đã tích hợp ChatGPT vào phiên bản mới của Bing, sử dụng mô hình AI GPT 3.5 nâng cấp thành GPT-4. Sự cố này có thể cho thấy rằng các công cụ tìm kiếm dựa trên AI vẫn còn thiếu sót trong việc thu thập và xử lý thông tin.

Tháng trước, Microsoft đã thông báo sẽ có những cập nhật quan trọng đối với công cụ tìm kiếm Bing, bắt đầu ưu tiên hiển thị kết quả được tạo ra bởi AI. Điều này có nghĩa là khi người dùng nhập câu hỏi tìm kiếm, trang kết quả sẽ hiển thị một câu trả lời chính được tạo ra bởi AI, cung cấp chi tiết về nguồn thông tin được sử dụng để tạo ra câu trả lời đó. Người dùng vẫn sẽ nhìn thấy kết quả tìm kiếm truyền thống, nhưng chúng sẽ được hiển thị ở bên phải trong một cửa sổ nhỏ hơn.

Microsoft giải thích rằng trải nghiệm mới này kết hợp khả năng cơ bản của công cụ tìm kiếm Bing với sức mạnh của mô hình ngôn ngữ lớn (LLM) và mô hình ngôn ngữ nhỏ (SLM). Nó có thể hiểu được câu hỏi tìm kiếm, thu thập thông tin từ hàng triệu nguồn, khớp nội dung một cách linh hoạt và hiển thị kết quả theo cách mới, giúp đáp ứng nhu cầu của người dùng một cách hiệu quả hơn.

Microsoft cũng đã đưa ra một số ví dụ về cách công cụ tìm kiếm mới hoạt động, ngoài chức năng tóm tắt. Họ còn cung cấp các đường link đến nguồn thông tin chính, nơi người dùng có thể tìm hiểu thêm về thông tin được cung cấp. Kết quả AI sau đó sẽ được đi kèm với danh sách kết quả truyền thống.

Ví dụ, khi người dùng tìm kiếm “Đàn voi sống được bao lâu”, kết quả sẽ bao gồm tóm tắt chính và video về các yếu tố ảnh hưởng đến tuổi thọ của voi. Nếu người dùng tìm kiếm “Phim spaghetti miền Tây là gì?”, công cụ tìm kiếm sẽ hiển thị lịch sử, nguồn gốc và các tác phẩm kinh điển của thể loại phim này, cùng với các đường link và nguồn thông tin liên quan.

Microsoft cho biết, thay đổi này ban đầu chỉ dành cho một số ít người dùng, nhưng sẽ dần mở rộng trong tương lai. Họ cũng tiếp tục đánh giá tác động của công cụ tìm kiếm AI đối với các trang web và độc giả. Có lo ngại rằng nếu robot AI bắt đầu hiển thị nội dung trực tiếp trong cửa sổ trò chuyện hoặc trang kết quả tìm kiếm, các trang web tạo nội dung miễn phí có thể cuối cùng sẽ sụp đổ.

Microsoft khẳng định rằng trải nghiệm tìm kiếm AI mới này được xây dựng từ đầu và đã xem xét vấn đề này, nên số lượng nhấp chuột vào các trang web vẫn giữ nguyên. Thời gian sẽ chứng minh liệu điều này có đúng hay không. Ngoài ra, người dùng có thể chọn tắt tính năng tạo nội dung AI trên trang kết quả tìm kiếm Bing, chỉ hiển thị kết quả tìm kiếm truyền thống.

Hiện nay, Microsoft không phải là công ty duy nhất thêm kết quả được tạo ra bởi AI vào trang kết quả tìm kiếm. Khi Microsoft tiếp tục phát triển công cụ tìm kiếm Bing, cạnh tranh trong lĩnh vực này cũng đang ngày càng gay gắt.

Tuy nhiên, thực tế cho thấy, các công cụ tìm kiếm AI không hoàn toàn đáng tin cậy và chính xác như chúng ta tưởng tượng – chúng có thể mắc lỗi và đôi khi đưa ra thông tin và gợi ý không chính xác. Đầu năm nay, Google cũng đã tung ra công cụ tương tự mang tên AI Overview, nhằm thu hút người dùng muốn tìm câu trả lời trực tiếp từ robot chat AI. Tuy nhiên, công cụ này cũng đã gây ra một số tình huống hài hước, ví dụ như khuyên người dùng thêm keo để dán phô mai lên pizza, hoặc trả lời rằng nhà địa chất khuyên nên ăn ít nhất một viên đá mỗi ngày.

Một trình duyệt mang tên Arc Search đã đưa ra lời khuyên y tế không phù hợp, nói rằng ngón chân bị cắt sẽ mọc lại. Một công cụ tìm kiếm AI khác, Genspark, đã gợi ý cho người dùng một số vũ khí có thể gây hại cho con người, trong khi Perplexity đã sao chép một số bài viết tin tức mà không đề cập đến nguồn gốc hoặc quyền sở hữu.

Ngoài ra, chức năng tóm tắt thông tin AI có thể làm giảm lưu lượng truy cập đến các trang web nguồn. Một nghiên cứu cho thấy, do không nhấn mạnh các liên kết bài viết, chức năng tóm tắt AI có thể làm giảm lưu lượng truy cập đến các trang web nguồn khoảng 25%.

Những công cụ tìm kiếm AI mới này được yêu thích vì khả năng tạo ra văn bản lớn với hiệu ứng thuyết phục giống như văn bản do con người tạo ra. Tuy nhiên, “ảo tưởng” của AI cũng trở thành một rào cản lớn cho việc cải thiện các robot trò chuyện này. Tiếc thay, các chuyên gia cảnh báo rằng vấn đề này có thể không bao giờ được giải quyết hoàn toàn.

Một báo cáo gần đây của Associated Press nhấn mạnh rằng vấn đề “sai sự thật” của các mô hình ngôn ngữ lớn (LLM) có thể không dễ dàng giải quyết như nhiều nhà sáng lập công nghệ và người ủng hộ AI tuyên bố. Giáo sư ngôn ngữ học tại Phòng thí nghiệm ngôn ngữ học của Đại học Washington, Emily Bender, cho biết cô ấy khá bi quan về việc giải quyết vấn đề này, cho rằng “ảo tưởng” không thể giải quyết được và là kết quả tất yếu của sự không phù hợp giữa công nghệ và cách sử dụng đề xuất.

Theo lời của Shane Orlick, Giám đốc điều hành của Jasper AI, đôi khi “sai sự thật” không hẳn là điều xấu. Orlick giải thích rằng “ảo tưởng” thực sự mang lại lợi ích bổ sung, vì có khách hàng cảm ơn họ vì đã khơi dậy sự sáng tạo, mà nguồn gốc là AI có thể tạo ra câu chuyện hoặc góc nhìn mà khách hàng chưa từng nghĩ đến.

Tương tự, “ảo tưởng” cũng đóng vai trò quan trọng trong việc tạo ra hình ảnh AI, với các mô hình như DALL-E và Midjourney tạo ra hình ảnh tuyệt vời nhờ vào khả năng tưởng tượng. Tuy nhiên, “ảo tưởng” chỉ thực sự là vấn đề khi nó liên quan đến việc tạo văn bản, đặc biệt là trong các lĩnh vực như báo chí, nơi độ chính xác được coi là rất quan trọng.

Emily Bender chỉ ra rằng nguyên tắc cơ bản của các mô hình ngôn ngữ lớn là “tạo ra” nội dung, và đây là nền tảng của tất cả các chức năng của chúng. Tuy nhiên, do khả năng này đến từ việc “tạo ra”, nên khi chúng tạo ra văn bản chính xác, đó chỉ là do may mắn. Ngay cả khi các mô hình được điều chỉnh cẩn thận có thể chính xác trong hầu hết các trường hợp, chúng vẫn không thể tránh khỏi lỗi. Và trong tương lai, “ảo tưởng” có thể tồn tại dưới dạng một hình thức mờ nhạt mà người đọc khó nhận ra.

Mặc dù các mô hình ngôn ngữ lớn là công cụ mạnh mẽ, nhưng doanh nghiệp và ngành công nghệ cần nhận thức rằng không nên chỉ vì một điều gì đó mạnh mẽ mà coi đó là công cụ tốt. Tương tự như vậy, dù công cụ như máy khoan có thể rất mạnh mẽ, nhưng không ai dám mang nó đến một cuộc khai quật khảo cổ.

Emily Bender nhấn mạnh rằng các mô hình ngôn ngữ lớn bắt đầu quá trình đào tạo của mình bằng cách dự đoán từ kế tiếp trong chuỗi dựa trên từ mà chúng được cung cấp. Mỗi từ trong dữ liệu huấn luyện đều được gắn trọng số hoặc phần trăm, giúp theo dõi từ trước đó trong một ngữ cảnh cụ thể. Tuy nhiên, những từ ban đầu này không có ý nghĩa thực sự hoặc ngữ cảnh quan trọng để đảm bảo độ chính xác.

Nói cách khác, các mô hình ngôn ngữ lớn chỉ là những người sao chép xuất sắc, chúng không thực sự hiểu được những gì chúng đang nói. Do đó, việc quá tin tưởng vào chúng có thể khiến người dùng gặp rắc rối. Đây là một điểm yếu cố hữu của các mô hình ngôn ngữ lớn, mặc dù “ảo tưởng” có thể giảm dần trong các phiên bản tương lai, nhưng vấn đề cơ bản có thể không bao giờ được giải quyết hoàn toàn.

### Từ khóa:
– Trò chơi điện tử
– Black Myth: Wukong
– Microsoft Bing
– AI
– Tìm kiếm thông minh