“Chúng tôi làm tốt hơn các nhà cung cấp đám mây”! Dự án khởi nghiệp của giáo viên Mu Xin tiết lộ: Nhắm vào vấn đề chi phí mô hình lớn, hiệu suất suy diễn sẽ được cải thiện đáng kể.

Siêu dữ liệu AI mới: Siliconflow và cách mạng hóa chi phí suy luận mô hình lớn

Một bước tiến mới trong ngành công nghệ AI

Ngày 02 tháng 01, công ty mới “Siliconflow” đã chính thức xuất hiện trước công chúng, với mục tiêu là phát triển cơ sở hạ tầng AI. Được sáng lập bởi ông Yuan Jinhui, người đã từng tạo ra công ty OneFlow nổi tiếng vào năm 2017, Siliconflow đang tập trung vào việc giải quyết vấn đề chi phí suy luận của các mô hình lớn.

Trong một cuộc phỏng vấn với AI Wire, ông Yuan Jinhui chia sẻ rằng, công ty dự định sẽ tung ra hệ thống suy luận và triển khai mô hình lớn đầu tiên của họ, nhằm giải quyết vấn đề về chi phí quá cao khi triển khai AIGC và LLM. Ông nhấn mạnh rằng đây là một trong những cơ hội kinh doanh tốt nhất trong thời đại của mô hình lớn.

Đột phá công nghệ

Việc cải thiện hiệu suất suy luận và triển khai mô hình lớn là điều không thể thiếu khi cung cấp dịch vụ cơ sở hạ tầng trong thời đại của mô hình lớn. Với sự phụ thuộc vào dữ liệu, thuật toán và sức mạnh tính toán, chỉ có như vậy thì khả năng của mô hình lớn mới được phát huy. Dữ liệu cho thấy, trong bốn năm qua, quy mô của các mô hình lớn đã tăng gấp bốn lần mỗi năm, và nhu cầu về AI tính toán đã tăng hơn 150.000 lần. Với cơ sở hạ tầng tính toán truyền thống dựa trên CPU, không còn đáp ứng được yêu cầu mới này, dẫn đến việc chi phí tăng vọt, trở thành gánh nặng đối với các công ty mô hình lớn.

Giải pháp mà Siliconflow đưa ra, giống như các nhà cung cấp đám mây khác, đều dựa trên việc cải tiến công nghệ. Nhưng thực tế, Siliconflow đã làm tốt hơn nhiều. Hiện nay, AI tính toán đang phân tán, với chỉ một phần nhỏ được sử dụng trên đám mây công cộng, còn lại là trên đám mây riêng và đa đám mây.

Sản phẩm và thị trường quốc tế

Stable Diffusion đã tiến hành đánh giá công khai và nhận được phản hồi rất tích cực. Trong giai đoạn thử nghiệm ban đầu, sản phẩm của họ đã được so sánh với các sản phẩm trong nước và quốc tế, và kết quả cho thấy sản phẩm của Siliconflow có lợi thế rõ rệt. Họ đã thu hút được khách hàng trả phí từ thị trường quốc tế, bao gồm cả stability.ai và các khu vực khác như Đông Nam Á, Pakistan và Trung Đông.

“Thị trường quốc tế chủ yếu cạnh tranh về chất lượng sản phẩm,” ông Yuan Jinhui nói. “Hiện tại, chúng tôi đang phát triển giải pháp suy luận mô hình lớn và sẽ sớm tung ra sản phẩm cạnh tranh, với hiệu suất vượt trội so với các giải pháp hiện có trên thị trường.”

Quá trình nghiên cứu và phát triển

Ông Yuan Jinhui đã được tuyển thẳng vào học bổng tiến sĩ tại Đại học Thanh Hoa, dưới sự hướng dẫn của giáo sư nổi tiếng trong lĩnh vực AI, giáo sư Zhang Bo. Trong thời gian đó, ông đã công bố nhiều bài báo trên các hội nghị quốc tế hàng đầu và liên tục đứng đầu trong các cuộc thi kỹ thuật quốc tế như TRECVID. Năm 2013, ông gia nhập Viện Nghiên cứu Microsoft (MSRA), nơi ông tập trung vào việc phát triển nền tảng học máy quy mô lớn. Ông đã tạo ra thuật toán chủ đề LightLDA nhanh nhất thế giới và hệ thống huấn luyện phân tán, giúp hoàn thành công việc huấn luyện mà trước đó cần hàng nghìn máy chủ chỉ với vài chục máy.

Kết luận

Ngành công nghệ AI đang trải qua một thời kỳ phát triển mạnh mẽ, với Siliconflow dẫn đầu trong việc tìm kiếm giải pháp giảm chi phí suy luận mô hình lớn. Công ty này đang đặt nền móng cho một tương lai mà AI không chỉ mạnh mẽ hơn mà còn hiệu quả hơn.

Keywords:

• Công nghệ AI
• Mô hình lớn
• Siliconflow
• Chi phí suy luận
• Hệ thống triển khai