Trung tâm trí tuệ nhân tạo TPU nội địa đầu tiên của Quảng Đông được xây dựng như thế nào?

Đột phá công nghệ mô hình lớn trong ngành tài chính

Trong làn sóng chuyển đổi số của ngành tài chính, công nghệ mô hình lớn đang cung cấp động lực mới cho sự đổi mới. Thông qua việc học sâu và phân tích dữ liệu lớn, công nghệ này đang thay đổi cách thức đánh giá rủi ro, dịch vụ khách hàng và chiến lược đầu tư, giúp các tổ chức tài chính nổi bật trong cuộc cạnh tranh khốc liệt.

Tuy nhiên, con đường chuyển đổi này không hề dễ dàng. Việc cân nhắc giữa chi phí áp dụng và rủi ro an ninh đã trở thành một thách thức mà ngành tài chính phải đối mặt. Trong bài viết này, Cao Dương, Giám đốc sản phẩm AI cao cấp tại Zhongguancun Kejin, sẽ thảo luận về cách mô hình lớn đóng vai trò quan trọng trong hoạt động kinh doanh tài chính và chia sẻ ý tưởng sáng tạo về trợ lý tri thức tự cập nhật.

Trợ lý tri thức tự cập nhật này tập trung vào việc cải thiện hiệu quả kinh doanh thông qua việc phân tích dữ liệu đa phương thức và công cụ tối ưu hóa toàn chuỗi. Những cải tiến này không chỉ ảnh hưởng đến dịch vụ khách hàng mà còn nâng cao quyết định thông minh dựa trên dữ liệu.

Bài phát biểu của Cao Dương tại Hội nghị Tài chính Công nghệ Toàn cầu 2024 đã được chỉnh sửa và tổng hợp bởi InfoQ mà không làm thay đổi ý nghĩa gốc:

Ngày hôm nay, tôi sẽ giới thiệu về cách Zhongguancun Kejin áp dụng công nghệ mô hình lớn, đặc biệt là trong lĩnh vực tài chính. Chúng tôi tin rằng với sự tiến bộ liên tục về hiệu suất và giá cả của công nghệ mô hình lớn, chi phí ứng dụng sẽ giảm và phạm vi ứng dụng sẽ mở rộng. Dự đoán trong một đến hai năm tới, từ năm 2024, tốc độ ứng dụng mô hình lớn trong ngành tài chính sẽ tăng mạnh.

Ngành tài chính, với tư cách là người tiên phong trong quá trình chuyển đổi số, sẽ tận dụng công nghệ mô hình lớn để cải thiện dịch vụ cá nhân hóa, trải nghiệm người dùng, truyền đạt giá trị khách hàng hiệu quả, đảm bảo tuân thủ an toàn và đưa ra quyết định thông minh. Những thay đổi này sẽ có tác động sâu sắc đến ngành tài chính, đặc biệt là trong các lĩnh vực như dịch vụ khách hàng, tiếp thị và ứng dụng dựa trên tri thức, những lĩnh vực mà rủi ro, chi phí và lợi nhuận đều là những yếu tố mà doanh nghiệp có thể kiểm soát và dự đoán.

Công nghệ mô hình lớn lưu trữ một lượng lớn kiến thức và ngôn ngữ thế giới, giống như một kho tàng kiến thức, bao gồm kiến thức thực tế (ví dụ: Bắc Kinh là thủ đô của Trung Quốc) và kiến thức suy luận (ví dụ: vợ của Yao Ming là Ye Li). Ngoài ra, mô hình lớn còn có khả năng xử lý thông tin tuần tự, hướng dẫn và tính toán logic, những thông tin này đều có thể được biểu diễn thông qua các tham số.

Từ lịch sử phát triển của trí tuệ nhân tạo, chúng ta ban đầu tập trung vào việc hiểu nghĩa từ, câu và ngữ nghĩa, sau đó chuyển sang hiểu thực tế, quá trình và mục tiêu, thậm chí là tâm trí hoặc linh hồn. Hiện tại, chúng ta có thể đang ở giai đoạn chuyển đổi từ hiểu thực tế sang hiểu quá trình, giai đoạn này tạo nền móng cho việc áp dụng mô hình lớn.

Với sự phát triển của internet, lượng dữ liệu đang tăng trưởng theo cấp số nhân, tạo ra nhiều thách thức cho doanh nghiệp, đặc biệt là sự gia tăng của tài liệu nội bộ. Trong bối cảnh này, việc xử lý và sử dụng dữ liệu một cách hiệu quả, nhận diện thông tin hữu ích và nâng cao hiệu quả quản lý tri thức trở thành vấn đề then chốt. Công nghệ mô hình lớn có thể giúp doanh nghiệp trích xuất thông tin có giá trị từ lượng dữ liệu khổng lồ, giải quyết vấn đề ứng dụng tri thức.

Trong các ứng dụng truyền thống, các công cụ phổ biến như Wiki, Feishu và cloud document mặc dù tiện lợi nhưng vẫn còn nhiều dư địa để cải thiện trong việc ứng dụng tri thức hiệu quả. Bằng cách kết hợp mô hình lớn và kỹ thuật RAG, chúng tôi kỳ vọng sẽ đạt được hiệu quả ứng dụng tri thức tốt hơn.

Nhằm tối ưu hóa mô hình lớn, chúng tôi tập trung vào việc xác định và điều chỉnh mô hình. Xác định: để nhận biết phạm vi khả năng của mô hình, ví dụ, hiểu rõ chức năng của từng lớp trong mạng thần kinh 40 lớp của mô hình BaiChuan 14B, để đánh giá những lớp nào đóng vai trò quan trọng trong việc nhận dạng thực thể hoặc trích xuất thông tin. Điều chỉnh: thông qua phản hồi ẩn để điều chỉnh mô hình theo từng lớp, liên tục cải thiện hiệu suất của mô hình trong quá trình sử dụng thực tế.

Trong lĩnh vực trí tuệ doanh nghiệp, dữ liệu là tài sản cốt lõi, và việc áp dụng công nghệ mô hình lớn có thể tối ưu hóa việc sử dụng tài sản này. Chúng tôi xây dựng nền tảng trợ lý tri thức tự cập nhật, còn gọi là nền tảng động cơ tri thức, tích hợp điều chỉnh mô hình LoRA theo từng lĩnh vực, kỹ thuật RAG và học tập phản hồi ẩn.

Mục tiêu cốt lõi của chúng tôi là nâng cao giá trị khách hàng. Thông qua mô hình lớn, phạm vi nguồn tri thức sẽ mở rộng đáng kể, dự kiến có thể tăng lên hơn 10 lần. Hệ thống tìm kiếm tri thức truyền thống thường bị giới hạn trong việc tìm kiếm từ khóa trong tiêu đề hoặc nội dung văn bản, trong khi chúng tôi có thể thực hiện tìm kiếm toàn diện trên tài liệu, cơ sở dữ liệu và video, đi sâu vào nội dung cụ thể.

Chi phí vận hành cũng sẽ giảm đáng kể, dự kiến giảm hơn 85%. Đồng thời, khả năng bao phủ kiến thức ngoại vi sẽ tăng lên hơn 10 lần, đảm bảo rằng các kiến thức ít được truy vấn cũng có thể được quản lý và sử dụng hiệu quả. Hơn nữa, hiệu quả thu thập tri thức cũng sẽ tăng đáng kể.