Đào Bào – Bộ sưu tập mô hình lớn của ByteDance chính thức mở cửa cho dịch vụ công cộng

Ngày 15 tháng 5, VolcEngine đã ra mắt bộ sưu tập Đào Bào do ByteDance phát triển, bắt đầu cung cấp dịch vụ cho công chúng hôm nay. Giá của Đào Bào đã đưa việc sử dụng mô hình lớn từ tính theo phút chuyển sang tính theo phân.

“Mô hình tốt không chỉ hiệu quả mà còn phải là mô hình mà mọi người có thể sử dụng được,” ông Tan Dai, Giám đốc điều hành của VolcEngine, nhấn mạnh. “Sử dụng lượng lớn sẽ giúp mài dũa mô hình tốt hơn và cũng giảm đáng kể chi phí đơn vị cho việc suy luận mô hình.”

Theo tiết lộ, phiên bản chủ lực của mô hình Đào Bào pro-32k có giá suy luận đầu vào chỉ là 0,0008 nhân dân tệ / nghìn Tokens, tương đương với một nhân dân tệ có thể mua được 1,25 triệu Tokens, thấp hơn 99,3% so với giá ngành; trong khi xử lý văn bản dài 128K, giá suy luận đầu ra của mô hình chung Đào Bào pro là 0,005 nhân dân tệ / nghìn Tokens.

Ông Tan Dai cho rằng có ba thách thức chính để làm tốt một mô hình lớn: hiệu suất mô hình, chi phí suy luận và độ khó triển khai. Sử dụng càng nhiều người, lượng truy cập càng cao, mô hình sẽ càng tốt. Tại Hội nghị Động lực Cốt lõi VolcEngine mùa xuân 2024, VolcEngine đã giới thiệu nền tảng dịch vụ mô hình lớn toàn diện Volcano Ark và ứng dụng Khoá, cũng mang đến các bản cập nhật kỹ thuật mới nhất.

Bộ sưu tập mô hình Đào Bào do ByteDance phát triển bao gồm gia đình nội dung đa phương tiện từ ngữ nghĩa, âm thanh đến hình ảnh, có thể tạo ra các thông minh cá nhân hóa, có thể thực hiện tương tác trò chuyện, thu thập thông tin, hỗ trợ sáng tạo nội dung một cách hiệu quả thông qua giao tiếp tự nhiên hoặc giọng nói.

Ngoài ra, mô hình chung Đào Bào pro là phiên bản chuyên nghiệp của mô hình ngôn ngữ lớn tự nghiên cứu của ByteDance, có khả năng hiểu, tạo ra, logic và nhớ kết hợp, với kích thước cửa sổ tối đa hỗ trợ văn bản dài 128K, có thể được tinh chỉnh, phù hợp cho nhiều trường hợp sử dụng. Mô hình chung Đào Bào lite là phiên bản nhẹ hơn với chi phí Tokens giảm 84%, độ trễ giảm 50% so với phiên bản pro, cung cấp lựa chọn mô hình linh hoạt và kinh tế cho doanh nghiệp.

Về mặt âm thanh, Đào Bào có ba mô hình bao gồm tổng hợp giọng nói, tái tạo giọng nói và nhận dạng giọng nói, không chỉ giỏi trong việc biểu đạt nhiều cảm xúc mà còn có thể sao chép giọng nói y hệt chỉ trong 5 giây, đồng thời tái tạo âm sắc và độ tự nhiên của giọng nói, hỗ trợ chuyển ngữ giữa các ngôn ngữ khác nhau. Kết quả nhận dạng giọng nói đặc biệt nổi bật trong các lĩnh vực công nghệ, giáo dục, y tế và các lĩnh vực ngang hàng khác, đồng thời xử lý tốt các tình huống phức tạp như giọng địa phương, tiếng ồn, v.v.

Mô hình Đào Bào · Văn bản thành hình ảnh chuyên về việc hiểu và tạo ra văn hóa Trung Quốc, trong khi mô hình Đào Bào · Gọi chức năng là mô hình chính hiện tại hỗ trợ Khoá, có thể thực hiện các tác vụ liên quan bằng cách chọn các hàm và thuật toán khác nhau dựa trên lệnh đầu vào và tình huống.

Mô hình Đào Bào · Diễn viên đóng vai có thể diễn xuất theo các thiết lập nhân vật, có khả năng sáng tạo nhân vật cá nhân, nhận biết ngữ cảnh và thúc đẩy kịch bản, đáp ứng nhu cầu đóng vai cá nhân hóa của người dùng. Theo tiết lộ của Zhu Jun, Phó Tổng Giám đốc Sản phẩm và Chiến lược của ByteDance, đã có hơn 8 triệu thông minh thể được tạo ra trên Đào Bào.

Ngoài ra, ông Zhu Jun cũng chia sẻ nhiều suy nghĩ về thiết kế sản phẩm của Đào Bào. “Những nhu cầu cốt lõi của người dùng không thay đổi, bao gồm thu thập thông tin hiệu quả, tăng cường công việc, biểu đạt bản thân, giải trí xã hội, trong khi công nghệ đang phát triển nhanh chóng. Đối với việc áp dụng mô hình lớn, có ba nguyên tắc thiết kế: con người hóa, gần gũi với người dùng và cá nhân hóa.

Tên Đào Bào được đặt nhằm mong muốn tên sản phẩm và mô hình lớn giống như cái tên thân mật mà bạn bè hay gia đình sử dụng trong cuộc sống hàng ngày, trở thành “bách khoa toàn thư” giọng nói di động, trợ lý soạn thảo văn bản cho máy tính để bàn, và trợ lý mã nguồn và chú thích được tích hợp vào môi trường sử dụng hiện tại của người dùng.

Sau một năm cải tiến và xác thực thị trường, Đào Bào đang trở thành một trong những mô hình lớn được sử dụng nhiều nhất và có phạm vi ứng dụng phong phú nhất ở Trung Quốc, hiện đang xử lý 120 tỷ Tokens văn bản mỗi ngày và tạo ra 30 triệu bức ảnh.

Tại hiện trường, ông Tan Dai cũng lần đầu tiên công bố số liệu người dùng hoạt động hàng tháng của Đào Bào, với lượng người dùng hàng tháng hai đầu đạt 26 triệu. Hiện nay, mô hình Đào Bào đã được sử dụng trên ứng dụng Đào Bào, Khoá, Hama Aixue, Feishu Smart Partner, Douyin E-commerce, Jianying, Tomato Fiction và các sản phẩm và dịch vụ khác của ByteDance, và thông qua Volcano Ark cung cấp dịch vụ cho nhiều khách hàng trong các ngành công nghệ thông minh, ô tô, tài chính, tiêu dùng, v.v.

Nền tảng Volcano Ark đã được nâng cấp hoàn toàn, ra mắt nền tảng Volcano Ark 2.0, với ba plugin mô hình lớn quan trọng mới được công bố. Volcano Ark là nền tảng dịch vụ mô hình lớn do VolcEngine phát hành, cung cấp các chức năng và dịch vụ toàn diện từ huấn luyện mô hình, suy luận, đánh giá, tinh chỉnh, và tập trung hỗ trợ sinh thái mô hình lớn.

Các điểm nổi bật chính của nâng cấp Volcano Ark 2.0 bao gồm:

• Plugin kết nối mạng: cung cấp khả năng tìm kiếm tương tự như Douyin Toutiao, có thể kết nối trực tiếp với dữ liệu Internet chất lượng cao và dữ liệu độc quyền của Douyin, và thông qua khả năng nhận diện ý định hàng đầu trong ngành, cung cấp câu trả lời chính xác và toàn diện hơn cho người dùng.
• Plugin nội dung: độc quyền ra mắt plugin nội dung Douyin, cung cấp nội dung video và hình ảnh phong phú độc quyền từ Douyin, và làm giàu quá trình tương tác giữa mô hình lớn và người dùng.
• Plugin thư viện kiến thức RAG: tích hợp khả năng tìm kiếm vector quy mô lớn và hiệu suất cao do ByteDance tích lũy trong nhiều năm, cho phép tìm kiếm hàng tỷ dữ liệu trong vài miligiây, hỗ trợ cập nhật dữ liệu theo thời gian thực, và tích hợp khả năng mô hình vector hóa Đào Bào, với hiệu suất vượt trội trong các trường hợp sử dụng tiếng Trung, cung cấp trải nghiệm tìm kiếm tốt hơn cho người dùng.

Bên cạnh các plugin cốt lõi, Volcano Ark 2.0 cũng đã nâng cấp toàn diện khả năng tải, bảo vệ an toàn và dịch vụ thuật toán. Về khả năng tải, Volcano Ark cung cấp hồ sơ GPU công cộng với hơn vạn thẻ để hỗ trợ dịch vụ suy luận mô hình lớn, và có khả năng điều chỉnh linh hoạt để khởi chạy mô hình tinh chỉnh mới chỉ trong 5 giây, hoàn thành việc mở rộng hàng ngàn thẻ chỉ trong 3 phút để hỗ trợ lưu lượng đột phá và đỉnh cao của doanh nghiệp trong quá trình ứng dụng mô hình lớn.

Về an toàn đáng tin cậy, Volcano Ark 2.0 thông qua mã hóa truyền dẫn, mã hóa dữ liệu và chức năng sandbox mô hình lớn độc đáo, có thể tăng cường an toàn trong quá trình tinh chỉnh, triển khai và ứng dụng mô hình, không chỉ ngăn chặn việc tấn công mô hình gây hại, mà còn bảo vệ dữ liệu nội bộ của doanh nghiệp không bị rò rỉ.

Về dịch vụ thuật toán, nền tảng Volcano Ark được trang bị đội ngũ thuật toán chuyên trách cho mô hình lớn.

“AI thường được hiểu là một khái niệm khó khăn và đắt đỏ, khó khăn ở chỗ bản thân công nghệ mô hình lớn phức tạp, và đắt ở chỗ chi phí huấn luyện và suy luận. Hiện tại, nó chủ yếu được áp dụng trong các trường hợp sử dụng như công cụ tìm kiếm và chỉnh sửa hình ảnh, nhưng tiềm năng thực sự của mô hình ngôn ngữ lớn không chỉ dừng lại ở đó,” ông Pan Yuyang, người quản lý sản phẩm của Khoá, nhấn mạnh. “Sản phẩm Khoá có thể kết nối mô hình lớn và ngữ cảnh sử dụng của người dùng.”

Giới thiệu về nền tảng ứng dụng AI thế hệ mới, bất kể có nền tảng lập trình hay không, người dùng có thể nhanh chóng xây dựng các bot dựa trên mô hình lớn và xuất bản chúng lên các nền tảng mạng xã hội, phần mềm nhắn tin, hoặc triển khai chúng lên các trang web và kênh khác.

Hiện tại, phiên bản chuyên nghiệp của Khoá đã được tích hợp vào nền tảng dịch vụ mô hình lớn của VolcEngine “Volcano Ark”, cung cấp SLA doanh nghiệp và các tính năng cao cấp. Ngân hàng CMB, nhà hàng lẩu Haidilao, Super Monkey, và Hunter đã xây dựng các thông minh thể trên Khoá. Đại học Phúc Đán, Đại học Chiết Giang và các trường đại học nổi tiếng khác cũng đã xây dựng trợ giảng AI cho khóa học và thí nghiệm.

Tìm hiểu về biên giới mới của công nghệ thông minh, Báo cáo theo dõi quý đầu tiên của Trung Quốc về mô hình lớn năm 2024 chính thức được phát hành! Sự ra mắt của mô hình lớn OpenAI Sora và NVIDIA Project GR00T, sự đột phá của robot hình người và sự xuất hiện của thông minh thể mã hóa, đang mở ra kỷ nguyên mới của mô hình lớn AI. Trong xu hướng mới song song giữa nguồn mở và đóng cửa, việc đánh giá công cụ viết và tạo PPT cho thấy tiềm năng lớn của AI trong việc tạo nội dung và thể hiện hình ảnh. Trung tâm Nghiên cứu InfoQ mời bạn cùng chứng kiến ​​cách sóng AI định hình tương lai . Hãy quét mã QR để theo dõi “Trước tuyến AI” và trả lời “báo cáo theo dõi quý” để nhận báo cáo.