Khả năng tính toán dịch vụ: Mô hình kinh doanh mới trong thời đại mô hình lớn
Với sự trỗi dậy của các mô hình lớn trong trí tuệ nhân tạo, khả năng tính toán đã trở thành một mô hình kinh doanh mới nổi. Mặc dù cơn sốt "nấu thuốc" với các mô hình lớn hiện tại có thể dần lắng xuống, nhưng các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, kịp thời điều chỉnh hướng chiến lược.
Sau 3 năm tốt nghiệp từ Đại học Tsinghua, Bi Khải Phong đã huấn luyện một mô hình khí tượng lớn, sử dụng dữ liệu thời tiết toàn cầu trong 40 năm, với khoảng 200 thẻ GPU đã được sử dụng trong khoảng 2 tháng để tiền huấn luyện. Theo giá 7.8 nhân dân tệ/GPU mỗi giờ, chi phí huấn luyện mô hình lớn trong lĩnh vực này có thể vượt quá 2 triệu nhân dân tệ. Nếu là huấn luyện mô hình lớn tổng quát, chi phí có thể tăng gấp trăm lần.
Hiện nay, Trung Quốc đã có hơn 100 mô hình lớn với quy mô 10 tỷ tham số. Tuy nhiên, ngành công nghiệp đang phải đối mặt với vấn đề thiếu hụt GPU cao cấp. Chi phí khả năng tính toán tăng cao, việc thiếu hụt khả năng tính toán và vốn trở thành thách thức đối với nhiều doanh nghiệp.
Sự thiếu hụt GPU cao cấp là một vấn đề khó giải quyết trong toàn ngành. Sự bùng nổ của các mô hình lớn đã dẫn đến nhu cầu về khả năng tính toán tăng nhanh trên thị trường, nhưng tốc độ cung cấp không theo kịp. Mặc dù về lâu dài, khả năng tính toán cung cấp chắc chắn sẽ chuyển từ thị trường người bán sang thị trường người mua, nhưng thời gian cần thiết cho quá trình này vẫn còn là một ẩn số.
Các công ty đang tính toán mình sở hữu bao nhiêu GPU của Nvidia, và từ đó để đánh giá thị phần. Có người trong cuộc cho biết, nếu có khoảng 10.000 thẻ, trong khi tổng thị trường là 100.000 thẻ, thì thị phần là 10%. Dự kiến đến cuối năm có thể đạt 40.000 thẻ, nếu lúc đó tổng thị trường là 200.000 thẻ, thì có thể chiếm 20% thị phần.
Một mặt là không thể mua được thẻ GPU, mặt khác là rào cản trong việc đào tạo các mô hình lớn không dễ dàng như ngành công nghiệp quảng bá. Để đào tạo một mô hình lớn tổng quát với quy mô một tỷ tham số hoặc lớn hơn, chi phí có thể lên tới hàng chục tỷ thậm chí hàng trăm tỷ nhân dân tệ. Một số người trong ngành cho biết, nếu không có sự hỗ trợ tài chính hàng trăm tỷ, rất khó để phát triển lâu dài trong lĩnh vực này.
Đối mặt với tình huống này, trong ngành công nghiệp người ta thường cho rằng, khi cạnh tranh trên thị trường mô hình lớn gia tăng, thị trường cũng sẽ từ sự cuồng nhiệt chuyển sang sự lý trí, các doanh nghiệp cũng sẽ điều chỉnh chi phí và chiến lược theo những thay đổi dự kiến.
Để đối phó với vấn đề thiếu hụt GPU cao cấp, các doanh nghiệp đã thực hiện nhiều biện pháp ứng phó:
Sử dụng dữ liệu chất lượng cao hơn để đào tạo, nâng cao hiệu suất đào tạo.
Nâng cao khả năng hạ tầng, đạt được hoạt động ổn định trên 1000 kcal trong vòng hai tuần mà không bị mất khả năng tính toán.
Tối ưu hóa khả năng tính toán của thẻ tài nguyên, nâng cao hiệu suất sử dụng.
Cải thiện hiệu suất mạng, tránh ảnh hưởng đến tốc độ và hiệu quả huấn luyện.
Chuyển từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính để giảm chi phí.
Sử dụng nền tảng trong nước để đào tạo và suy diễn mô hình lớn, thay thế GPU của Nvidia.
Đối với hầu hết các doanh nghiệp, việc tự xây dựng trung tâm dữ liệu để đáp ứng nhu cầu là rất khó khăn, vì vậy nhiều đội ngũ thuật toán chọn các nhà cung cấp dịch vụ khả năng tính toán chuyên nghiệp để hỗ trợ. Cụm GPU cấp kilocalorie mới có thể tạo ra hiệu ứng quy mô, việc chọn nhà cung cấp khả năng tính toán có thể giảm chi phí biên.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới trong quá trình nhu cầu thị trường và sự phát triển công nghệ. Bản chất của dịch vụ khả năng tính toán là thông qua công nghệ tính toán mới để đạt được đầu ra thống nhất của khả năng tính toán không đồng nhất, và tích hợp với các công nghệ như điện toán đám mây, dữ liệu lớn, AI, v.v. Nó không chỉ bao gồm khả năng tính toán, mà còn bao gồm việc đóng gói thống nhất các tài nguyên như lưu trữ, mạng, v.v., để hoàn thành việc giao nhận khả năng tính toán dưới dạng dịch vụ như API(.
Trong chuỗi công nghiệp khả năng tính toán, các doanh nghiệp thượng nguồn chủ yếu cung cấp khả năng tính toán chung, khả năng tính toán thông minh, khả năng tính toán siêu, lưu trữ và mạng lưới cũng như các tài nguyên cơ bản khác. Các doanh nghiệp trung nguồn chủ yếu là nhà cung cấp dịch vụ đám mây và nhà cung cấp dịch vụ khả năng tính toán mới, thông qua công nghệ sắp xếp, lập lịch và giao dịch khả năng tính toán để thực hiện sản xuất khả năng tính toán, và cung cấp khả năng tính toán bằng cách sử dụng API và các phương thức khác. Các doanh nghiệp hạ nguồn dựa vào khả năng tính toán để cung cấp năng lực tính toán cho các dịch vụ gia tăng trong chuỗi công nghiệp.
Hình thức tính phí theo khối lượng và tính phí theo gói năm hoặc tháng là các mô hình chính của dịch vụ khả năng tính toán hiện nay. Người dùng có thể chọn các dịch vụ khả năng tính toán hoặc nền tảng dịch vụ MaaS tương ứng. Ngành công nghiệp cũng đang thúc đẩy "sự tích hợp khả năng tính toán và mạng", hỗ trợ việc điều phối giữa các kiến trúc, khu vực và nhà cung cấp dịch vụ khác nhau.
Với nhu cầu tính toán hiệu suất cao của các mô hình lớn ngày càng trở nên bình thường, dịch vụ tính toán xuất phát từ dịch vụ đám mây nhanh chóng lọt vào tầm nhìn của công chúng, hình thành một chuỗi công nghiệp và mô hình kinh doanh độc đáo. Mặc dù hiện tại việc thiếu GPU cao cấp dẫn đến hiện tượng "cướp chip", nhưng đây chỉ là tạm thời. Về lâu dài, việc tính toán trở thành một dịch vụ là xu hướng chắc chắn, các nhà cung cấp dịch vụ tính toán cần chuẩn bị tốt để có thể điều chỉnh chiến lược kịp thời khi xu hướng thị trường thay đổi.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
10 thích
Phần thưởng
10
7
Chia sẻ
Bình luận
0/400
BoredRiceBall
· 07-22 22:40
Khả năng tính toán khả năng tính toán đều mua được hết rồi.
Xem bản gốcTrả lời0
ChainDetective
· 07-22 10:50
显卡 tăng lên疯啦
Xem bản gốcTrả lời0
MemecoinResearcher
· 07-19 23:43
ngmi không có gpu các bạn ơi
Xem bản gốcTrả lời0
LiquidityWizard
· 07-19 23:43
thực sự động lực cung và cầu đã được định giá sẵn... 98,7% tự tin
Khả năng tính toán dịch vụ nổi lên: Cơ hội và thách thức mới trong thời đại mô hình lớn
Khả năng tính toán dịch vụ: Mô hình kinh doanh mới trong thời đại mô hình lớn
Với sự trỗi dậy của các mô hình lớn trong trí tuệ nhân tạo, khả năng tính toán đã trở thành một mô hình kinh doanh mới nổi. Mặc dù cơn sốt "nấu thuốc" với các mô hình lớn hiện tại có thể dần lắng xuống, nhưng các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, kịp thời điều chỉnh hướng chiến lược.
Sau 3 năm tốt nghiệp từ Đại học Tsinghua, Bi Khải Phong đã huấn luyện một mô hình khí tượng lớn, sử dụng dữ liệu thời tiết toàn cầu trong 40 năm, với khoảng 200 thẻ GPU đã được sử dụng trong khoảng 2 tháng để tiền huấn luyện. Theo giá 7.8 nhân dân tệ/GPU mỗi giờ, chi phí huấn luyện mô hình lớn trong lĩnh vực này có thể vượt quá 2 triệu nhân dân tệ. Nếu là huấn luyện mô hình lớn tổng quát, chi phí có thể tăng gấp trăm lần.
Hiện nay, Trung Quốc đã có hơn 100 mô hình lớn với quy mô 10 tỷ tham số. Tuy nhiên, ngành công nghiệp đang phải đối mặt với vấn đề thiếu hụt GPU cao cấp. Chi phí khả năng tính toán tăng cao, việc thiếu hụt khả năng tính toán và vốn trở thành thách thức đối với nhiều doanh nghiệp.
Sự thiếu hụt GPU cao cấp là một vấn đề khó giải quyết trong toàn ngành. Sự bùng nổ của các mô hình lớn đã dẫn đến nhu cầu về khả năng tính toán tăng nhanh trên thị trường, nhưng tốc độ cung cấp không theo kịp. Mặc dù về lâu dài, khả năng tính toán cung cấp chắc chắn sẽ chuyển từ thị trường người bán sang thị trường người mua, nhưng thời gian cần thiết cho quá trình này vẫn còn là một ẩn số.
Các công ty đang tính toán mình sở hữu bao nhiêu GPU của Nvidia, và từ đó để đánh giá thị phần. Có người trong cuộc cho biết, nếu có khoảng 10.000 thẻ, trong khi tổng thị trường là 100.000 thẻ, thì thị phần là 10%. Dự kiến đến cuối năm có thể đạt 40.000 thẻ, nếu lúc đó tổng thị trường là 200.000 thẻ, thì có thể chiếm 20% thị phần.
Một mặt là không thể mua được thẻ GPU, mặt khác là rào cản trong việc đào tạo các mô hình lớn không dễ dàng như ngành công nghiệp quảng bá. Để đào tạo một mô hình lớn tổng quát với quy mô một tỷ tham số hoặc lớn hơn, chi phí có thể lên tới hàng chục tỷ thậm chí hàng trăm tỷ nhân dân tệ. Một số người trong ngành cho biết, nếu không có sự hỗ trợ tài chính hàng trăm tỷ, rất khó để phát triển lâu dài trong lĩnh vực này.
Đối mặt với tình huống này, trong ngành công nghiệp người ta thường cho rằng, khi cạnh tranh trên thị trường mô hình lớn gia tăng, thị trường cũng sẽ từ sự cuồng nhiệt chuyển sang sự lý trí, các doanh nghiệp cũng sẽ điều chỉnh chi phí và chiến lược theo những thay đổi dự kiến.
Để đối phó với vấn đề thiếu hụt GPU cao cấp, các doanh nghiệp đã thực hiện nhiều biện pháp ứng phó:
Sử dụng dữ liệu chất lượng cao hơn để đào tạo, nâng cao hiệu suất đào tạo.
Nâng cao khả năng hạ tầng, đạt được hoạt động ổn định trên 1000 kcal trong vòng hai tuần mà không bị mất khả năng tính toán.
Tối ưu hóa khả năng tính toán của thẻ tài nguyên, nâng cao hiệu suất sử dụng.
Cải thiện hiệu suất mạng, tránh ảnh hưởng đến tốc độ và hiệu quả huấn luyện.
Chuyển từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính để giảm chi phí.
Sử dụng nền tảng trong nước để đào tạo và suy diễn mô hình lớn, thay thế GPU của Nvidia.
Đối với hầu hết các doanh nghiệp, việc tự xây dựng trung tâm dữ liệu để đáp ứng nhu cầu là rất khó khăn, vì vậy nhiều đội ngũ thuật toán chọn các nhà cung cấp dịch vụ khả năng tính toán chuyên nghiệp để hỗ trợ. Cụm GPU cấp kilocalorie mới có thể tạo ra hiệu ứng quy mô, việc chọn nhà cung cấp khả năng tính toán có thể giảm chi phí biên.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới trong quá trình nhu cầu thị trường và sự phát triển công nghệ. Bản chất của dịch vụ khả năng tính toán là thông qua công nghệ tính toán mới để đạt được đầu ra thống nhất của khả năng tính toán không đồng nhất, và tích hợp với các công nghệ như điện toán đám mây, dữ liệu lớn, AI, v.v. Nó không chỉ bao gồm khả năng tính toán, mà còn bao gồm việc đóng gói thống nhất các tài nguyên như lưu trữ, mạng, v.v., để hoàn thành việc giao nhận khả năng tính toán dưới dạng dịch vụ như API(.
Trong chuỗi công nghiệp khả năng tính toán, các doanh nghiệp thượng nguồn chủ yếu cung cấp khả năng tính toán chung, khả năng tính toán thông minh, khả năng tính toán siêu, lưu trữ và mạng lưới cũng như các tài nguyên cơ bản khác. Các doanh nghiệp trung nguồn chủ yếu là nhà cung cấp dịch vụ đám mây và nhà cung cấp dịch vụ khả năng tính toán mới, thông qua công nghệ sắp xếp, lập lịch và giao dịch khả năng tính toán để thực hiện sản xuất khả năng tính toán, và cung cấp khả năng tính toán bằng cách sử dụng API và các phương thức khác. Các doanh nghiệp hạ nguồn dựa vào khả năng tính toán để cung cấp năng lực tính toán cho các dịch vụ gia tăng trong chuỗi công nghiệp.
Hình thức tính phí theo khối lượng và tính phí theo gói năm hoặc tháng là các mô hình chính của dịch vụ khả năng tính toán hiện nay. Người dùng có thể chọn các dịch vụ khả năng tính toán hoặc nền tảng dịch vụ MaaS tương ứng. Ngành công nghiệp cũng đang thúc đẩy "sự tích hợp khả năng tính toán và mạng", hỗ trợ việc điều phối giữa các kiến trúc, khu vực và nhà cung cấp dịch vụ khác nhau.
Với nhu cầu tính toán hiệu suất cao của các mô hình lớn ngày càng trở nên bình thường, dịch vụ tính toán xuất phát từ dịch vụ đám mây nhanh chóng lọt vào tầm nhìn của công chúng, hình thành một chuỗi công nghiệp và mô hình kinh doanh độc đáo. Mặc dù hiện tại việc thiếu GPU cao cấp dẫn đến hiện tượng "cướp chip", nhưng đây chỉ là tạm thời. Về lâu dài, việc tính toán trở thành một dịch vụ là xu hướng chắc chắn, các nhà cung cấp dịch vụ tính toán cần chuẩn bị tốt để có thể điều chỉnh chiến lược kịp thời khi xu hướng thị trường thay đổi.