Mô hình lớn trong tài chính: Làm thế nào để đối phó với năm thách thức lớn?

Với sự phát triển của Trí tuệ nhân tạo (AI) đi vào giai đoạn sâu hơn, việc áp dụng các mô hình lớn không còn chỉ giới hạn trong các cuộc thảo luận lý thuyết mà đã bắt đầu thâm nhập vào các ngành công nghiệp cốt lõi, đặc biệt là trong lĩnh vực tài chính và công nghệ.

Hiện nay, AI và các mô hình lớn không chỉ đóng vai trò quan trọng trong việc nâng cao hiệu quả hoạt động, tối ưu hóa trải nghiệm khách hàng, mà còn thúc đẩy sự xuất hiện của các dịch vụ tài chính mới. Tuy nhiên, làm thế nào để thúc đẩy hiệu quả áp dụng và thực hành AI và các mô hình lớn trong ngành tài chính vẫn đang là vấn đề được quan tâm rộng rãi.

Nói về chủ đề “Thúc đẩy áp dụng và thực hành AI và các mô hình lớn trong ngành tài chính”, InfoQ đã có cuộc trao đổi với Jiang Ruisi, quản lý Trung tâm Công nghệ trí tuệ nhân tạo tại Yinfeng Technology.

Vào ngày 16-17 tháng 8, tại Thượng Hải sẽ diễn ra Hội nghị Toàn cầu về Tài chính và Công nghệ (FCon). Tại phiên thảo luận chuyên đề “Ứng dụng thực tế và vòng lặp lợi ích của các mô hình lớn tài chính”, Jiang Ruisi sẽ chia sẻ kinh nghiệm và kiến thức sâu sắc với mọi người. Ngoài ra, hội nghị cũng sẽ tập trung vào các trường hợp sử dụng AIGC trong tiếp thị và vận hành, cũng như nghiên cứu và phát triển, thu hút các chuyên gia từ ngân hàng, chứng khoán và bảo hiểm chia sẻ những ví dụ tốt nhất.

Các ứng dụng chính của AI tại Yinfeng Technology

Rủi ro tài chính thông minh: Chúng tôi đã sử dụng công nghệ AI để xây dựng mô hình rủi ro chính xác, giúp theo dõi giao dịch một cách thực thời và nhận diện các rủi ro tiềm ẩn, tăng cường khả năng quản lý rủi ro của công ty.
Khuyến nghị cá nhân: Qua việc phân tích dữ liệu người dùng bằng thuật toán AI, chúng tôi tối ưu hóa hệ thống khuyến nghị cá nhân, cải thiện trải nghiệm người dùng, tăng tỷ lệ chuyển đổi và hài lòng của khách hàng.
Hỗ trợ khách hàng thông minh: Chúng tôi đã triển khai hệ thống hỗ trợ khách hàng dựa trên AI, có khả năng nhận diện và trả lời câu hỏi của khách hàng một cách chính xác, giảm thời gian chờ đợi và nâng cao hiệu quả dịch vụ. Hệ thống này đã được áp dụng rộng rãi trong quy trình dịch vụ khách hàng của chúng tôi và nhận được phản hồi tích cực từ khách hàng.
Tự động hóa quy trình: Thông qua việc áp dụng công nghệ AI, chúng tôi đã tối ưu hóa và tự động hóa quy trình kinh doanh, giảm thiểu sự can thiệp của con người, nâng cao hiệu suất và độ chính xác của quy trình.

Bên cạnh đó, chúng tôi cũng đã phát triển nhiều sản phẩm liên quan đến AI như hệ thống gọi điện thông minh, hệ thống vận hành thông minh và nền tảng học máy, những sản phẩm này đều đang đóng vai trò quan trọng trong từng lĩnh vực.

Chiến lược lựa chọn công nghệ

Chúng tôi luôn chú trọng theo kịp xu hướng công nghệ mới nhất, đảm bảo công nghệ được lựa chọn luôn ở vị trí tiên tiến. Đồng thời, chúng tôi nhấn mạnh tính thực tiễn và phù hợp với bối cảnh kinh doanh khi lựa chọn công nghệ AI. Chúng tôi cũng ưu tiên lựa chọn công nghệ có thể tích hợp dễ dàng với các hệ thống và nền tảng khác để đạt hiệu quả cao hơn trong việc giao tiếp dữ liệu và quy trình kinh doanh.

Trong quá trình nghiên cứu và phát triển, chúng tôi tập trung vào việc nghiên cứu độc lập, xây dựng đội ngũ nghiên cứu chuyên nghiệp, và liên tục cho ra mắt các sản phẩm và giải pháp có bản quyền riêng. Ví dụ, “Linh Tê” – Trợ lý AI và “Kính Phách” – Nền tảng kiểm tra AI của chúng tôi đều dựa trên công nghệ nghiên cứu độc lập.

Thử nghiệm và khám phá

Hiện nay, ngành công nghiệp chưa có nhiều kinh nghiệm đáng tham khảo, vì vậy quá trình thử nghiệm không thể tránh khỏi. Do yêu cầu của dự án cần kết hợp với ngữ cảnh kinh doanh và dữ liệu đặc thù của chúng tôi, dữ liệu này thường rất nhạy cảm, nên ban đầu chúng tôi không hoàn toàn rõ ràng về hiệu quả cuối cùng có thể đạt được.

Tuy nhiên, chúng tôi cũng luôn cập nhật công nghệ mới, ví dụ như RAG và Agent. Trong các dự án trước đây, nếu gặp công nghệ mới hoặc công nghệ cơ bản hơn, chúng tôi sẽ đánh giá và đưa ra quyết định. Nếu công nghệ này có thể mang lại hiệu quả cải thiện dự án, chúng tôi sẽ thử nghiệm. Vì vậy, mặc dù khối lượng công việc hiện tại nhiều hơn trước và mức độ chắc chắn cũng thấp hơn, nhưng chúng tôi chỉ có thể thông qua việc thử nghiệm và khám phá liên tục để thúc đẩy sự phát triển của dự án.

Thách thức và giải pháp

Chúng tôi đối mặt với năm thách thức chính. Đầu tiên là vấn đề chất lượng và số lượng dữ liệu. Khi huấn luyện mô hình lớn, chúng tôi nhận thấy dữ liệu chất lượng cao có sẵn rất hạn chế và dữ liệu tồn tại vấn đề không đồng nhất và nhiễu. Để giải quyết vấn đề này, chúng tôi đã thực hiện việc làm sạch và xử lý dữ liệu, loại bỏ nhiễu và dữ liệu không đồng nhất. Ngoài ra, chúng tôi đã áp dụng kỹ thuật tăng cường dữ liệu để tạo ra các mẫu đào tạo mới thông qua biến đổi và tổng hợp, tăng cường số lượng dữ liệu. Đồng thời, chúng tôi chia sẻ dữ liệu với đối tác, mở rộng quy mô bộ dữ liệu và đảm bảo quyền riêng tư và an toàn dữ liệu.

Thứ hai là vấn đề phức tạp của mô hình và nhu cầu tài nguyên tính toán. Mô hình lớn thường đòi hỏi tài nguyên tính toán và lưu trữ lớn, đặt ra thách thức cho hạ tầng của chúng tôi. Vì vậy, chúng tôi đã đầu tư nâng cấp hạ tầng phần cứng, bao gồm cụm tính toán hiệu suất cao và thiết bị lưu trữ dung lượng lớn. Ngoài ra, chúng tôi đã áp dụng kỹ thuật huấn luyện phân tán và nén mô hình để tối ưu hóa việc sử dụng tài nguyên, giảm thời gian huấn luyện mô hình và nhu cầu lưu trữ.

Thứ ba là vấn đề giải thích tính mô hình và tuân thủ quy định. Với sự phức tạp của mô hình tăng lên, việc giải thích quyết định mô hình trở nên khó khăn hơn, đồng thời cần đảm bảo mô hình tuân thủ các quy định liên quan. Để giải quyết vấn đề này, chúng tôi đã áp dụng công nghệ AI có thể giải thích (XAI) để cung cấp giải thích rõ ràng hơn về quyết định mô hình, và làm việc chặt chẽ với đội ngũ pháp luật và chính sách để đảm bảo ứng dụng mô hình tuân thủ tất cả các quy định liên quan, như GDPR.

Thứ tư, việc phối hợp giữa đội ngũ kỹ thuật và đội ngũ kinh doanh cũng là một thách thức. Vì vậy, chúng tôi đã thiết lập cơ chế phối hợp xuyên phòng ban, bao gồm các cuộc họp tiến độ dự án định kỳ và cuộc họp thảo luận yêu cầu. Ngoài ra, thông qua đào tạo và hội thảo, chúng tôi đã tăng cường hiểu biết và khả năng ứng dụng công nghệ AI và mô hình lớn của thành viên nhóm, thúc đẩy sự kết hợp chặt chẽ giữa công nghệ và kinh doanh.

Thứ năm, việc triển khai và giám sát mô hình cũng là một quá trình phức tạp. Để đảm bảo mô hình đã được huấn luyện có thể triển khai suôn sẻ vào môi trường sản xuất và hoạt động ổn định, chúng tôi đã áp dụng kiến trúc container và microservices, đơn giản hóa việc triển khai và quản lý mô hình. Đồng thời, chúng tôi đã thiết lập hệ thống giám sát và cảnh báo hoàn chỉnh, đảm bảo hiệu suất và ổn định của mô hình trong môi trường sản xuất.

Cải tiến trong việc huấn luyện và tối ưu hóa mô hình lớn

Một số cải tiến chính trong việc huấn luyện và tối ưu hóa mô hình lớn có thể được tóm tắt như sau:

Đào tạo mô hình tối ưu: Đào tạo độ chính xác hỗn hợp: thông qua việc sử dụng số học nửa chính xác (FP16), chúng ta có thể giảm đáng kể gánh nặng tính toán và bộ nhớ sử dụng, đồng thời duy trì độ chính xác và hiệu suất của mô hình.
Đào tạo phân tán: Sử dụng các khung đào tạo phân tán như DeepSpeed, cải thiện hiệu suất và khả năng mở rộng của mô hình lớn, hỗ trợ đào tạo mô hình quy mô lớn hơn.
Học tập hiệu quả của tham số: Qua việc tối ưu hóa hiệu quả của tham số trong quá trình đào tạo, giảm bớt tham số dư thừa, từ đó cải thiện tốc độ đào tạo và hiệu suất của mô hình.
Nén mô hình: Giảm bớt độ phức tạp tính toán của mô hình mà không ảnh hưởng đáng kể đến độ chính xác của mô hình.

Đảm bảo quyền riêng tư và an toàn dữ liệu

Để đảm bảo quyền riêng tư và an toàn dữ liệu, chúng tôi đã thực hiện các biện pháp đa tầng: đầu tiên, chúng tôi đã thực hiện chiến lược quản lý dữ liệu nghiêm ngặt, bao gồm quản lý an toàn thiết bị máy tính và mạng, lưu trữ dữ liệu nhạy cảm được mã hóa, và kiểm soát quyền truy cập chặt chẽ, đảm bảo chỉ có người được ủy quyền mới có thể tiếp cận dữ liệu.

Thứ hai, chúng tôi đã xây dựng chiến lược bảo mật dữ liệu mạnh mẽ, sử dụng các công nghệ mã hóa tiêu chuẩn và kỹ thuật sao lưu dữ liệu, sử dụng nền tảng dữ liệu cao cấp để đảm bảo an toàn trong quá trình truyền và lưu trữ dữ liệu.

Trong việc bảo vệ quyền riêng tư, chúng tôi đã áp dụng kỹ thuật làm mờ dữ liệu và mã hóa để ngăn chặn việc rò rỉ thông tin nhạy cảm khi xử lý dữ liệu cá nhân, đảm bảo bí mật của dữ liệu trong quá trình truyền và lưu trữ.

Thêm vào đó, chúng tôi tuân thủ các quy định pháp luật liên quan, như GDPR, đảm bảo việc thu thập và sử dụng dữ liệu hợp pháp, và xem xét và cập nhật chính sách quyền riêng tư định kỳ để phù hợp với các yêu cầu pháp lý mới nhất.

Để đối phó với các mối đe dọa tiềm ẩn, chúng tôi đã xây dựng cơ chế giám sát an ninh liên tục và đánh giá định kỳ, theo dõi và phản hồi nhanh chóng các sự kiện an ninh dữ liệu, và đánh giá định kỳ hiệu quả của các biện pháp an ninh hiện tại.

Chúng tôi cũng chú trọng đến ý thức an ninh của nhân viên, thông qua đào tạo định kỳ nâng cao trách nhiệm của họ trong việc bảo vệ dữ liệu và quyền riêng tư, đảm bảo họ hiểu cách xử lý và bảo vệ dữ liệu nhạy cảm một cách chính xác.

Cuối cùng, trong quá trình hợp tác với bên thứ ba, chúng tôi đã ký kết các thỏa thuận bảo vệ dữ liệu nghiêm ngặt và thực hiện đánh giá an toàn đối tác, đảm bảo họ tuân thủ các tiêu chuẩn liên quan.

Những biện pháp này cùng tạo thành một hệ thống bảo vệ dữ liệu toàn diện, đảm bảo quyền riêng tư và an toàn của dữ liệu khi áp dụng mô hình lớn trong ngành tài chính và công nghệ.

Kế hoạch tương lai

Chúng tôi dự định thông qua việc tối ưu hóa liên tục hiệu suất mô hình lớn, tích hợp công nghệ mới, tăng cường an toàn dữ liệu và tuân thủ quy định, mở rộng ứng dụng dịch vụ cá nhân hóa và trợ lý thông minh, đồng thời thúc đẩy hợp tác liên ngành và xây dựng hệ sinh thái, tăng cường đào tạo nhân viên và chia sẻ kiến thức, để tiếp tục thúc đẩy việc áp dụng và đổi mới của mô hình lớn trong ngành tài chính và công nghệ.

Giới thiệu về phiên thảo luận

Trong phiên thảo luận, tôi sẽ giới thiệu các cảnh quan thực tế của mô hình lớn, phân tích các ví dụ và hiệu quả của nó trong lĩnh vực đòi hỏi kiến thức chuyên sâu. Tôi cũng sẽ đề cập đến các thách thức mà mô hình lớn gặp phải trong các tình huống công việc nặng nề và cách chúng tôi đối mặt với những thách thức này.

Tôi sẽ tập trung giới thiệu các sản phẩm AI chính của nhóm hướng tới khách hàng doanh nghiệp (B-end), như trợ lý đơn vị chức năng và công cụ hỗ trợ công việc thông minh, phân tích khả năng kỹ thuật, mức độ chấp nhận thị trường và tác động đến doanh nghiệp. Tôi cũng sẽ thảo luận về cách cân nhắc giữa kiến thức chuyên gia và thuật toán để tối ưu hóa ứng dụng thương mại của mô hình lớn, phương pháp xây dựng vòng lặp lợi ích, bao gồm đánh giá hiệu quả và quá trình tối ưu liên tục.

Cuối cùng, tôi sẽ thông qua các nghiên cứu trường hợp cụ thể để trình bày ứng dụng thành công của mô hình lớn trong công ty tài chính và công nghệ, thảo luận sâu hơn về các vòng lặp logic, xây dựng và sản xuất trong các trường hợp này, để hiểu và áp dụng công nghệ mô hình lớn tốt hơn.

Trong kỷ nguyên thông minh này, công nghệ AI như dòng chảy dâng trào, thâm nhập vào mọi ngành công nghiệp, tái cấu trúc cách sản xuất và sống. Công nghệ mô hình lớn dẫn dắt sự đổi mới, nâng cao hiệu quả của ngành một cách chính xác, từ giáo dục giảng dạy cá nhân đến tiếp thị bán lẻ chính xác, từ truyền thông ổn định và hiệu quả đến quản lý rủi ro tài chính thông minh, AI không thể thiếu. Nó không chỉ là tiền phong trong cách mạng công nghệ, mà còn là động lực mạnh mẽ cho sự phát triển kinh tế xã hội. Dưới sự thúc đẩy của AI, chúng ta đang hướng tới một tương lai thông minh, tiện lợi và hiệu quả hơn, trải nghiệm sự thay đổi cuộc sống và sự vươn lên của ngành chưa từng có.

Ngày 16-17 tháng 8, Hội nghị Toàn cầu về Tài chính và Công nghệ (FCon) sẽ diễn ra tại Thượng Hải. Hội nghị này do Chương trình Lập nền tảng thông tin tín dụng Trung Quốc (CASTC) hợp tác chính thức tổ chức, nhằm trình bày những tiến bộ quan trọng của tài chính số hóa trong giai đoạn “Thập Tam Bích” và các thực hành triển khai mô hình lớn AI trong hơn một năm qua. Hội nghị sẽ mời các chuyên gia kỳ cựu từ các tổ chức tài chính và công nghệ tài chính như Ngân hàng Công thương, Ngân hàng Giao thông, Ngân hàng Huaxia, Ngân hàng Bắc Kinh, Ngân hàng Guangfa, Ngân hàng Citic, Công ty Chứng khoán Ping An, Công ty Chứng khoán Huatai, Công ty Độ Tiểu Mãn và Tập đoàn Ant, chia sẻ kinh nghiệm và hiểu biết sâu sắc về thực hành ứng dụng công nghệ tài chính.

Bạn cũng “đang xem” không?