Вычислительная мощность услуг: новая бизнес-модель эпохи больших моделей
С развитием больших моделей искусственного интеллекта вычислительная мощность стала новым бизнес-моделью. Хотя текущая волна "варки丹ей" больших моделей может постепенно утихнуть, поставщикам вычислительной мощности необходимо заранее подготовиться и своевременно скорректировать стратегическое направление.
Би Кайфэн, выпускник Тяньцзиньского университета, который окончил учебу 3 года назад, обучил крупную метеорологическую модель, используя 40 лет мировых метеорологических данных и около 200 графических процессоров в течение примерно 2 месяцев предобучения. При расчете стоимости 7,8 юаней за GPU в час, стоимость обучения этой модели в узкой области может превысить 2 миллиона юаней. Если бы это была общая большая модель, стоимость могла бы возрасти в сто раз.
В настоящее время в Китае существует более 100 крупных моделей с объемом параметров свыше 10 миллиардов. Однако отрасль в целом сталкивается с проблемой нехватки высококачественных GPU. Высокие затраты на вычислительную мощность и нехватка вычислительных ресурсов и финансирования стали сложной задачей для многих компаний.
Недостаток высококачественных GPU является неразрешимой проблемой для всей отрасли. Всплеск больших моделей привел к быстрому росту спроса на вычислительную мощность, но темпы роста предложения значительно отстают. Хотя в долгосрочной перспективе предложение вычислительной мощности обязательно перейдет от рынка продавцов к рынку покупателей, но сколько времени займет этот процесс, остается неизвестным.
Все компании рассчитывают, сколько графических процессоров NVIDIA у них есть, и на основе этого определяют свою долю на рынке. По словам осведомленных источников, если у вас близко к 10 000 карт, а всего на рынке 100 000 карт, то доля составит 10%. Ожидается, что к концу года это число может достичь 40 000 карт, если к тому времени общий объем рынка составит 200 000 карт, то доля может составить 20%.
С одной стороны, невозможно купить GPU-карты, с другой стороны, порог для обучения больших моделей не так легко преодолеть, как рекламируется в отрасли. Обучение универсальной большой модели с миллиардом параметров или более может стоить десятки миллионов или даже сотни миллионов юаней. Представители отрасли утверждают, что без поддержки средств в сотни миллионов или миллиарды трудно долго развиваться в этой области.
С учетом данной ситуации, в отрасли широко считается, что с усилением конкуренции на рынке крупных моделей рынок также перейдет от ажиотажа к рациональности, а компании будут контролировать расходы и корректировать стратегии в зависимости от изменений в ожиданиях.
Чтобы справиться с проблемой нехватки высококачественных GPU, компании приняли различные меры:
Используйте данные более высокого качества для обучения, чтобы повысить эффективность обучения.
Повышение возможностей инфраструктуры, обеспечивающее стабильную работу выше 1000 калорий в течение двух недель без сбоев.
Оптимизация распределения ресурсов вычислительной мощности, повышение эффективности использования.
Улучшение сетевой производительности, чтобы избежать влияния на скорость и эффективность обучения.
Переход от облачной вычислительной архитектуры к архитектуре суперкомпьютеров, чтобы снизить затраты.
Использование отечественной платформы для обучения и вывода больших моделей вместо GPU от Nvidia.
Для большинства компаний создание собственного дата-центра является сложной задачей, поэтому многие алгоритмические команды выбирают профессиональных поставщиков вычислительной мощности для поддержки. Только GPU-кластеры уровня килокалорий могут обеспечить эффект масштаба, выбор поставщика вычислительной мощности может снизить предельные издержки.
Вычислительная мощность уже в процессе рыночного спроса и технологической итерации развилась в новую модель обслуживания. Суть услуги вычислительной мощности заключается в единообразном выводе гетерогенной вычислительной мощности с помощью новых вычислительных технологий и в интеграции с облачными вычислениями, большими данными, AI и другими технологиями. Это не только включает вычислительную мощность, но и объединённую упаковку ресурсов, таких как хранение и сеть, для предоставления в виде услуги ( через API ).
В индустриальной цепочке вычислительной мощности, upstream компании в основном поставляют общую вычислительную мощность, интеллектуальную вычислительную мощность, сверхвычислительную мощность, хранилище и сетевые основные ресурсы. Средние компании в основном представляют собой облачных провайдеров и новых поставщиков вычислительных услуг, которые реализуют производство вычислительной мощности с помощью технологий оркестрации, планирования и торговли вычислительной мощностью, а также предоставляют вычислительную мощность через API и другие способы. Downstream компании зависят от вычислительных услуг, предоставляемых вычислительной мощностью, для выполнения ролей в цепочке создания добавленной стоимости.
Оплата по объему и оплата по подписке являются основными моделями услуг вычислительной мощности на сегодняшний день. Пользователи могут выбрать соответствующий экземпляр услуги вычислительной мощности или платформу MaaS. Отрасль также продвигает "интеграцию вычислительной сети", поддерживая координацию между различными архитектурами, регионами и провайдерами услуг.
С учетом нормализации требований к высокопроизводительным вычислениям больших моделей, услуги вычислительной мощности, возникшие из облачных сервисов, быстро вошли в массовое сознание, сформировав уникальную отраслевую цепочку и бизнес-модель. Хотя в настоящее время нехватка высококлассных графических процессоров приводит к явлению "захвата чипов", это всего лишь временно. В долгосрочной перспективе, становление вычислительной мощности как услуги — это определенная тенденция, и поставщики услуг вычислительной мощности должны быть готовы вовремя корректировать свои стратегии, когда ветер рынка изменится.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
10 Лайков
Награда
10
7
Репост
Поделиться
комментарий
0/400
BoredRiceBall
· 07-22 22:40
Вычислительная мощность Вычислительная мощность, как её купить?
Посмотреть ОригиналОтветить0
ChainDetective
· 07-22 10:50
Видеокарты рост безумия!
Посмотреть ОригиналОтветить0
MemecoinResearcher
· 07-19 23:43
ngmi без gpu, мои друзья
Посмотреть ОригиналОтветить0
LiquidityWizard
· 07-19 23:43
на самом деле динамика спроса и предложения уже учтена в ценах... 98,7% уверенности
Восход вычислительной мощности: новые возможности и вызовы в эпоху больших моделей
Вычислительная мощность услуг: новая бизнес-модель эпохи больших моделей
С развитием больших моделей искусственного интеллекта вычислительная мощность стала новым бизнес-моделью. Хотя текущая волна "варки丹ей" больших моделей может постепенно утихнуть, поставщикам вычислительной мощности необходимо заранее подготовиться и своевременно скорректировать стратегическое направление.
Би Кайфэн, выпускник Тяньцзиньского университета, который окончил учебу 3 года назад, обучил крупную метеорологическую модель, используя 40 лет мировых метеорологических данных и около 200 графических процессоров в течение примерно 2 месяцев предобучения. При расчете стоимости 7,8 юаней за GPU в час, стоимость обучения этой модели в узкой области может превысить 2 миллиона юаней. Если бы это была общая большая модель, стоимость могла бы возрасти в сто раз.
В настоящее время в Китае существует более 100 крупных моделей с объемом параметров свыше 10 миллиардов. Однако отрасль в целом сталкивается с проблемой нехватки высококачественных GPU. Высокие затраты на вычислительную мощность и нехватка вычислительных ресурсов и финансирования стали сложной задачей для многих компаний.
Недостаток высококачественных GPU является неразрешимой проблемой для всей отрасли. Всплеск больших моделей привел к быстрому росту спроса на вычислительную мощность, но темпы роста предложения значительно отстают. Хотя в долгосрочной перспективе предложение вычислительной мощности обязательно перейдет от рынка продавцов к рынку покупателей, но сколько времени займет этот процесс, остается неизвестным.
Все компании рассчитывают, сколько графических процессоров NVIDIA у них есть, и на основе этого определяют свою долю на рынке. По словам осведомленных источников, если у вас близко к 10 000 карт, а всего на рынке 100 000 карт, то доля составит 10%. Ожидается, что к концу года это число может достичь 40 000 карт, если к тому времени общий объем рынка составит 200 000 карт, то доля может составить 20%.
С одной стороны, невозможно купить GPU-карты, с другой стороны, порог для обучения больших моделей не так легко преодолеть, как рекламируется в отрасли. Обучение универсальной большой модели с миллиардом параметров или более может стоить десятки миллионов или даже сотни миллионов юаней. Представители отрасли утверждают, что без поддержки средств в сотни миллионов или миллиарды трудно долго развиваться в этой области.
С учетом данной ситуации, в отрасли широко считается, что с усилением конкуренции на рынке крупных моделей рынок также перейдет от ажиотажа к рациональности, а компании будут контролировать расходы и корректировать стратегии в зависимости от изменений в ожиданиях.
Чтобы справиться с проблемой нехватки высококачественных GPU, компании приняли различные меры:
Используйте данные более высокого качества для обучения, чтобы повысить эффективность обучения.
Повышение возможностей инфраструктуры, обеспечивающее стабильную работу выше 1000 калорий в течение двух недель без сбоев.
Оптимизация распределения ресурсов вычислительной мощности, повышение эффективности использования.
Улучшение сетевой производительности, чтобы избежать влияния на скорость и эффективность обучения.
Переход от облачной вычислительной архитектуры к архитектуре суперкомпьютеров, чтобы снизить затраты.
Использование отечественной платформы для обучения и вывода больших моделей вместо GPU от Nvidia.
Для большинства компаний создание собственного дата-центра является сложной задачей, поэтому многие алгоритмические команды выбирают профессиональных поставщиков вычислительной мощности для поддержки. Только GPU-кластеры уровня килокалорий могут обеспечить эффект масштаба, выбор поставщика вычислительной мощности может снизить предельные издержки.
Вычислительная мощность уже в процессе рыночного спроса и технологической итерации развилась в новую модель обслуживания. Суть услуги вычислительной мощности заключается в единообразном выводе гетерогенной вычислительной мощности с помощью новых вычислительных технологий и в интеграции с облачными вычислениями, большими данными, AI и другими технологиями. Это не только включает вычислительную мощность, но и объединённую упаковку ресурсов, таких как хранение и сеть, для предоставления в виде услуги ( через API ).
В индустриальной цепочке вычислительной мощности, upstream компании в основном поставляют общую вычислительную мощность, интеллектуальную вычислительную мощность, сверхвычислительную мощность, хранилище и сетевые основные ресурсы. Средние компании в основном представляют собой облачных провайдеров и новых поставщиков вычислительных услуг, которые реализуют производство вычислительной мощности с помощью технологий оркестрации, планирования и торговли вычислительной мощностью, а также предоставляют вычислительную мощность через API и другие способы. Downstream компании зависят от вычислительных услуг, предоставляемых вычислительной мощностью, для выполнения ролей в цепочке создания добавленной стоимости.
Оплата по объему и оплата по подписке являются основными моделями услуг вычислительной мощности на сегодняшний день. Пользователи могут выбрать соответствующий экземпляр услуги вычислительной мощности или платформу MaaS. Отрасль также продвигает "интеграцию вычислительной сети", поддерживая координацию между различными архитектурами, регионами и провайдерами услуг.
С учетом нормализации требований к высокопроизводительным вычислениям больших моделей, услуги вычислительной мощности, возникшие из облачных сервисов, быстро вошли в массовое сознание, сформировав уникальную отраслевую цепочку и бизнес-модель. Хотя в настоящее время нехватка высококлассных графических процессоров приводит к явлению "захвата чипов", это всего лишь временно. В долгосрочной перспективе, становление вычислительной мощности как услуги — это определенная тенденция, и поставщики услуг вычислительной мощности должны быть готовы вовремя корректировать свои стратегии, когда ветер рынка изменится.