Khả năng tính toán tranh giành chiến đấu phía sau mô hình kinh doanh mới
Cơn sốt "luyện đan" của mô hình lớn sẽ qua đi, nhưng khả năng tính toán đang trở thành một mô hình kinh doanh mới. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, kịp thời chuyển hướng.
Gần đây, một số nhà nghiên cứu đã sử dụng dữ liệu thời tiết toàn cầu trong 40 năm, dùng 200 thẻ GPU để thực hiện việc tiền huấn luyện, trong khoảng 2 tháng, họ đã đào tạo ra một mô hình khí tượng lớn với số lượng tham số lên đến hàng triệu. Theo tính toán với giá 7.8 nhân dân tệ/giờ cho một thẻ GPU, chi phí huấn luyện của mô hình này có thể vượt quá 2 triệu nhân dân tệ. Nếu là huấn luyện mô hình lớn chung, chi phí có thể tăng gấp trăm lần.
Hiện nay, Trung Quốc đã có hơn 100 mô hình quy mô 1 tỷ tham số. Tuy nhiên, ngành công nghiệp đổ xô vào việc "rèn luyện" mô hình lớn lại đối mặt với vấn đề khó khăn trong việc tìm kiếm GPU cao cấp. Chi phí khả năng tính toán cao, thiếu khả năng tính toán, thiếu vốn trở thành những vấn đề rõ ràng nhất mà ngành công nghiệp đang phải đối mặt.
Sự thiếu hụt GPU cao cấp đang không có lời giải trong toàn ngành. Vào thời điểm cao điểm, giá một chiếc A100 đã bị đẩy lên đến hai ba mươi triệu nhân dân tệ, giá thuê tháng của một máy chủ A100 cũng đã tăng vọt lên 50-70 triệu/tháng. Dù vậy, giá cao vẫn có thể không mua được chip.
Thị trường mô hình lớn đang cạnh tranh khốc liệt, rất khó để phát triển mô hình lớn liên tục nếu không có hàng tỷ vốn đầu tư. Một số doanh nhân cho biết, nếu không có sự hỗ trợ tài chính hàng trăm tỷ, con đường này rất khó đi đến. Khi thị trường chuyển từ cuồng nhiệt sang lý trí, các công ty cũng sẽ điều chỉnh chi phí và chiến lược theo sự thay đổi của kỳ vọng.
Đối mặt với tình trạng thiếu hụt khả năng tính toán, các doanh nghiệp đã thực hiện nhiều biện pháp ứng phó:
Sử dụng dữ liệu chất lượng cao hơn để nâng cao hiệu quả đào tạo
Nâng cao khả năng hạ tầng, đạt được hoạt động ổn định trên 1000 calo.
Tối ưu hóa khả năng tính toán thẻ tài nguyên
Chuyển từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính
Sử dụng nền tảng trong nước thay thế GPU của Nvidia
Những phương pháp này, mỗi loại đều là một dự án tương đối lớn, thường thì các doanh nghiệp khó có thể tự xây dựng trung tâm dữ liệu để đáp ứng nhu cầu. Nhiều đội ngũ thuật toán chọn các nhà cung cấp khả năng tính toán chuyên nghiệp để hỗ trợ.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới. Dịch vụ khả năng tính toán dựa trên khả năng tính toán đa dạng, liên kết bằng mạng khả năng tính toán, với mục tiêu cung cấp khả năng tính toán hiệu quả. Nó không chỉ bao gồm khả năng tính toán, mà còn bao gồm việc đóng gói thống nhất các nguồn lực như lưu trữ, mạng, v.v., để hoàn thành việc cung cấp khả năng tính toán dưới dạng dịch vụ ( như API ).
Từ góc độ cấu trúc chuỗi công nghiệp, các doanh nghiệp thượng nguồn chủ yếu cung cấp khả năng tính toán cơ bản, các doanh nghiệp trung nguồn chịu trách nhiệm sản xuất và cung cấp khả năng tính toán, trong khi các doanh nghiệp hạ nguồn là bên sử dụng khả năng tính toán. Hiện nay, tính phí theo khối lượng và gói hàng năm hàng tháng là mô hình tính phí chính.
Khi nhu cầu tính toán hiệu suất cao của các mô hình lớn trở thành bình thường, dịch vụ tính toán xuất phát từ dịch vụ đám mây nhanh chóng lọt vào tầm mắt của công chúng, hình thành một chuỗi công nghiệp và mô hình kinh doanh độc đáo. Trong giai đoạn đầu bùng nổ của ngành công nghiệp tính toán này, sự thiếu hụt GPU cao cấp, chi phí tính toán cao, và cuộc đua giành "chíp" đã trở thành cảnh tượng đặc trưng của thời đại này.
Trong dài hạn, khả năng tính toán trở thành một dịch vụ là xu hướng chắc chắn. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị sẵn sàng để điều chỉnh chiến lược kịp thời khi các mô hình lớn quay trở lại lý trí và hướng gió thị trường thay đổi nhanh chóng.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
18 thích
Phần thưởng
18
5
Chia sẻ
Bình luận
0/400
StakeOrRegret
· 07-14 02:28
Tiền chưa đến thì đừng nói gì cả
Xem bản gốcTrả lời0
ParanoiaKing
· 07-14 02:27
Thiếu thẻ thiếu điên cuồng rồi, khi nào thảm họa mỏ được phục chế một chút.
Xem bản gốcTrả lời0
MEVHunterLucky
· 07-14 02:24
Thảm họa mỏ bắt đầu rồi
Xem bản gốcTrả lời0
DeFiCaffeinator
· 07-14 02:23
Trong quá trình tích trữ card đồ họa, hãy tìm hiểu một chút nhé~
Cuộc chiến giành khả năng tính toán trong cơn sốt mô hình lớn: Các nhà cung cấp dịch vụ phải ứng phó như thế nào với mô hình kinh doanh mới
Khả năng tính toán tranh giành chiến đấu phía sau mô hình kinh doanh mới
Cơn sốt "luyện đan" của mô hình lớn sẽ qua đi, nhưng khả năng tính toán đang trở thành một mô hình kinh doanh mới. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, kịp thời chuyển hướng.
Gần đây, một số nhà nghiên cứu đã sử dụng dữ liệu thời tiết toàn cầu trong 40 năm, dùng 200 thẻ GPU để thực hiện việc tiền huấn luyện, trong khoảng 2 tháng, họ đã đào tạo ra một mô hình khí tượng lớn với số lượng tham số lên đến hàng triệu. Theo tính toán với giá 7.8 nhân dân tệ/giờ cho một thẻ GPU, chi phí huấn luyện của mô hình này có thể vượt quá 2 triệu nhân dân tệ. Nếu là huấn luyện mô hình lớn chung, chi phí có thể tăng gấp trăm lần.
Hiện nay, Trung Quốc đã có hơn 100 mô hình quy mô 1 tỷ tham số. Tuy nhiên, ngành công nghiệp đổ xô vào việc "rèn luyện" mô hình lớn lại đối mặt với vấn đề khó khăn trong việc tìm kiếm GPU cao cấp. Chi phí khả năng tính toán cao, thiếu khả năng tính toán, thiếu vốn trở thành những vấn đề rõ ràng nhất mà ngành công nghiệp đang phải đối mặt.
Sự thiếu hụt GPU cao cấp đang không có lời giải trong toàn ngành. Vào thời điểm cao điểm, giá một chiếc A100 đã bị đẩy lên đến hai ba mươi triệu nhân dân tệ, giá thuê tháng của một máy chủ A100 cũng đã tăng vọt lên 50-70 triệu/tháng. Dù vậy, giá cao vẫn có thể không mua được chip.
Thị trường mô hình lớn đang cạnh tranh khốc liệt, rất khó để phát triển mô hình lớn liên tục nếu không có hàng tỷ vốn đầu tư. Một số doanh nhân cho biết, nếu không có sự hỗ trợ tài chính hàng trăm tỷ, con đường này rất khó đi đến. Khi thị trường chuyển từ cuồng nhiệt sang lý trí, các công ty cũng sẽ điều chỉnh chi phí và chiến lược theo sự thay đổi của kỳ vọng.
Đối mặt với tình trạng thiếu hụt khả năng tính toán, các doanh nghiệp đã thực hiện nhiều biện pháp ứng phó:
Những phương pháp này, mỗi loại đều là một dự án tương đối lớn, thường thì các doanh nghiệp khó có thể tự xây dựng trung tâm dữ liệu để đáp ứng nhu cầu. Nhiều đội ngũ thuật toán chọn các nhà cung cấp khả năng tính toán chuyên nghiệp để hỗ trợ.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới. Dịch vụ khả năng tính toán dựa trên khả năng tính toán đa dạng, liên kết bằng mạng khả năng tính toán, với mục tiêu cung cấp khả năng tính toán hiệu quả. Nó không chỉ bao gồm khả năng tính toán, mà còn bao gồm việc đóng gói thống nhất các nguồn lực như lưu trữ, mạng, v.v., để hoàn thành việc cung cấp khả năng tính toán dưới dạng dịch vụ ( như API ).
Từ góc độ cấu trúc chuỗi công nghiệp, các doanh nghiệp thượng nguồn chủ yếu cung cấp khả năng tính toán cơ bản, các doanh nghiệp trung nguồn chịu trách nhiệm sản xuất và cung cấp khả năng tính toán, trong khi các doanh nghiệp hạ nguồn là bên sử dụng khả năng tính toán. Hiện nay, tính phí theo khối lượng và gói hàng năm hàng tháng là mô hình tính phí chính.
Khi nhu cầu tính toán hiệu suất cao của các mô hình lớn trở thành bình thường, dịch vụ tính toán xuất phát từ dịch vụ đám mây nhanh chóng lọt vào tầm mắt của công chúng, hình thành một chuỗi công nghiệp và mô hình kinh doanh độc đáo. Trong giai đoạn đầu bùng nổ của ngành công nghiệp tính toán này, sự thiếu hụt GPU cao cấp, chi phí tính toán cao, và cuộc đua giành "chíp" đã trở thành cảnh tượng đặc trưng của thời đại này.
Trong dài hạn, khả năng tính toán trở thành một dịch vụ là xu hướng chắc chắn. Các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị sẵn sàng để điều chỉnh chiến lược kịp thời khi các mô hình lớn quay trở lại lý trí và hướng gió thị trường thay đổi nhanh chóng.