Tác động của AI đến ngành tài chính: Cách mà công nghệ đang thay đổi quy trình.

Công ty Bitrock thông báo phiên bản mới nhất của mô hình đầu cuối MiniCPM 3.0, với chỉ 4 tỷ tham số, đã vượt qua hiệu suất của GPT-3.5. Được biết, sau khi lượng hóa, mô hình này chỉ chiếm 2GB bộ nhớ, rất phù hợp cho việc sử dụng trên thiết bị đầu cuối.

Một số đặc điểm nổi bật của MiniCPM 3.0 bao gồm:

– Hỗ trợ văn bản dài không giới hạn, hiệu suất trên bảng xếp hạng vượt trội so với Kimi.
– Tính năng gọi chức năng mạnh mẽ, đạt hiệu suất gần như GPT-4 trong đánh giá bảng xếp hạng Berkeley.
– Bộ ba công cụ RAG mạnh mẽ, hỗ trợ tìm kiếm đa ngôn ngữ và cải thiện độ tin cậy của nội dung tạo ra.

Theo đội ngũ Bitrock, họ đã đạt được mục tiêu ban đầu đặt ra vào đầu năm: đưa một mô hình có hiệu suất tương đương GPT-3.5 chạy trên thiết bị đầu cuối. MiniCPM 3.0 không chỉ cải tiến về khả năng hiểu ngôn ngữ tự nhiên, mà còn vượt trội trong việc xử lý tri thức, mã lập trình và toán học so với nhiều mô hình khác như Qwen2-7B, Phi-3.5, GLM4-9B và LLaMa3-8B.

Đặc biệt, công nghệ LLMxMapReduce giúp xử lý văn bản dài một cách hiệu quả, cho phép mô hình hoạt động ổn định với văn bản có độ dài không giới hạn. Trên bảng xếp hạng InfiniteBench, MiniCPM 3.0 thể hiện hiệu suất vượt trội hơn cả GPT-4 và KimiChat, đặc biệt là khi xử lý văn bản dài.

MiniCPM 3.0 cũng sở hữu tính năng gọi chức năng mạnh mẽ, đạt hiệu suất gần như GPT-4 trong bảng xếp hạng Berkeley Function-Calling Leaderboard, vượt qua nhiều mô hình khác như Llama 3.1-8B, Qwen-2-7B, và GLM-4-9B.

Bên cạnh đó, công nghệ RAG giúp mô hình tra cứu kiến thức từ cơ sở dữ liệu bên ngoài, đảm bảo độ chính xác và tin cậy của nội dung tạo ra. MiniCPM-Embedding, MiniCPM-Reranker và MiniCPM 3.0-RAG-LoRA đều thể hiện hiệu suất xuất sắc trong nhiều tác vụ, vượt qua các mô hình hàng đầu khác như Llama3-8B và Baichuan2-13B.

Cuối cùng, MiniCPM 3.0 được mở nguồn và có thể truy cập trên GitHub và HuggingFace, tạo điều kiện thuận lợi cho cộng đồng nghiên cứu và phát triển tiếp tục cải tiến và ứng dụng công nghệ này.

**Từ khóa:** Bitrock, MiniCPM 3.0, AI, mô hình lớn, công nghệ RAG