j9九游会真人游戏第一品牌 这些东谈主士示意-中国(九游会)官方网站
新闻资讯
发布日期:2024-11-23 01:09 点击次数:165
由于高质地数据吃紧以及昂扬的数据中心建形本钱,AI大模子的升级速率正在放缓,可能反过来牵扯行业合座和数据中心设立的弘扬;同期j9九游会真人游戏第一品牌,马斯克大举发力数据中心设立可能晋升其他AI公司的彭胀难度。
本文作家:李笑寅
起首:硬AI
内行数据中心正在靠近放缓逆境。
轰轰烈烈的AI波浪推升了数据中心的设立怒潮,但跟着大模子对算力的要求逐日俱增,数据中心升级的脚步似乎要跟不上握续刚劲的AI需求了。
着名科技媒体The Information近日报谈称,由于高质地数据吃紧以及昂扬的数据中心建形本钱,AI大模子的升级速率正在放缓,可能反过来牵扯行业合座和数据中心设立的弘扬。
与此同期,马斯克义结金兰举发力数据中心设立,在“鲶鱼效应”(迷惑入硬汉后,引发弱者变强)下,一场更高难度的大型数据中心竞赛行将打响,数据中心的设立怒潮还能否延续?
“数据饥饿”规章大模子迭代速率
据OpenAI职工向The Information示意,GPT迭代放缓的原因之一是:可供大模子预检会所需的高质地文本和其他数据正在束缚减少。
这些东谈主士示意,在曩昔几年中, LLMs使用来自网站、册本和其他起首的公开文本和其他数据进行预检会流程,而如今,这类数据险些已被“榨干”。
据悉,不才一代旗舰模子“Orion”中,OpenAI固然一经运行尝试在检会阶段引入AI生成数据,但同期又靠近一个新问题,即Orion最终可能在某些方面与旧型号的大模子一样。
同期,数据中心昂扬的建形本钱可能也难以复旧起迭代所需的宏大算力要求,OpenAI筹备员Noam Brown在上个月的TEDAI会议上示意,开辟更先进的模子在经济上可能并不成行。
“咱们真是要检会破耗数千亿好意思元或数万亿好意思元的模子吗?巧合间,扩展(scaling laws)的范式也会崩溃。”
此外,由于大模子迭代升级对就业器集群规模的要求越来越高,所需的功率也呈倍数级晋升,散热问题正越来越成为数据中心升级的一大拦阻。
马斯克发力AI,OpenAI等顾虑被“自后居上”
马斯克为xAI竣事“最大超算中心”的首肯的速率之快,一经向OpenAI等头部竞争敌手得胜制造了自恃。
在本年7月“GenAI Summit SF 2024”东谈主工智能峰会上,马斯克旗下的AI初创公司xAI晓示,缠绵在几个月内建成一个约10万H100芯片的数据中心,堪称是“宇宙上最壮健的AI检会集群”,旨在检会更壮健的AI模子。
同月,马斯克交代平台“X”上晓示,xAI公司已运行在“Supercluster”上进行检会,该集群由10万个液冷英伟达的H100 GPU组成,在单个辛勤平直数据存取(RDMA)结构上运行。
马斯克的豪赌,基于“缩放定律”(scaling laws):数据中心规模越大、检会出来的大模子就越好。
据悉,“Supercluster”的集群规模是Meta等科技巨头已疏淡据中心规模的数倍。对比来看,OpenAI检会GPT4,需要用到25000块A100 GPU,仅为Supercluster的1/20。
况且,据英伟达方面向媒体暴露,该数据中心仅用122天就建成,而左证其CEO黄仁勋的说法,这种这种规模的GPU集群频繁需要三年的时辰来筹划和假想,还极度需要一年的时辰武艺干与使用。
尽管xAI的东谈主工智能器具仍远远过期于OpenAI,但他构建数据中心的速率引起了Sam Altman的警惕。据一位知情东谈主士向媒体暴露,马斯克在X上官宣了Supercluster的建成后,Altman与微软的基础口头高管发生了争执,顾虑xAI的发展速率比微软快。
本文来自微信公众号“硬AI”,存眷更多AI前沿资讯请移步这里
]article_adlist-->阛阓有风险,投资需严慎。本文不组成个东谈主投资提倡,也未酌量到个别用户特殊的投资目标、财务状态或需要。用户应试虑本文中的任何主见、不雅点或论断是否合适其特定状态。据此投资,背负昂扬。
海量资讯、精确解读,尽在新浪财经APP背负剪辑:李桐 j9九游会真人游戏第一品牌
Powered by 中国(九游会)官方网站 @2013-2022 RSS地图 HTML地图