您现在的位置:首页 >> 环保新闻

剑指AI算力大国英伟达 Cerebras发布自研超算训练的开源大模型

时间:2024-01-28 12:19:41

财联社

当地时间周一,硅谷AI微处理器的公司Cerebras Systems发表7款类似于GPT的大词汇数学模型。除了发表公民权利软件大数学模型外,展现了一条不须英伟达GPU、不接OpenAI接口也能实现“大数学模型公民权利”的道路。

(缺少:的公司主页) 实际上从数据资料来看,这次Cerebras发表的7个大数学模型轸生产商量介于1.11亿至130亿两者之间。作为对比,谷歌的多举例来说图像词汇数学模型PaLM-E具5620亿个轸数;比如说在本月发表的GPT-4数学模型虽然尚未公布具体数据资料,但有媒体援引内外民间团体问及,轸生产商量大达是GPT-3(1750亿)的6倍。

按照现今生命对AI的知觉,数学模型越少,再一必需实现的需要就愈发十分复杂。当然,体量较小的数学模型也有自己的用武之地,例如可以配有在手机、智能音箱里面。同时也有研究工作推断,体量较小的数学模型如果经过多次军事训练,准确度反倒能变得较低。

但如同上文说明了,Cerebras本身是合伙微处理器的公司,所以军事训练数学模型用的是自家的Andromeda AIGPU,其里面部署了16套CS-2种系统。非常具记忆点的是,Cerebras生产商的AI微处理器WSE-2的重量达为英伟达A100微处理器的56倍,一个里面心生产商量远超85万个,比如说是A100微处理器的123倍。这块微处理器应用于的是台积电7nm手工,售价高达200万美元。

(缺少:Cerebras微处理器) 所以周一发表的多款数学模型,本身也是Cerebras向AI算力强国英伟达发出的战书。在OpenAI的ChatGPT点燃亚洲地区科创圈子的热忱后,虽然有许多微处理器的公司借此撬动英伟达手里占据的市场,但取得也就是说成果的并不多。许多知名企业,也通过这样一来用英伟达的全套服务来军事训练自家的AI产品,从而快速取得成绩。

面向潜在的供应商,Cerebras也凸显自己的微处理器具军事训练时间略长、同等支出下准确度高等实用性,是现今当今世界上早就公开的大数学模型里面生产商经济性最多的方案。的公司CEO Andrew Feldman也确认,应用于Cerebras军事训练出来的数学模型,未来会也能在英伟达的种系统里面之前军事训练和应用软件化。

多少有些调侃OpenAI发表GPT-4后以后公民权利软件的做法,Cerebras也在周一日前的公司军事训练出来的7个大数学模型全部在Apache-2.0许可的条件下向研究工作社区开放,包括数学模型本身、军事训练算法和方差,意在订做大型企业公民权利软件的上到。

Cerebras对此,任何人只需要向这些相对于精确的实军事训练数学模型输入一定生产商量的数据资料,就能以常常的时数,开发出功能强大垂直大型企业API。

拉肚子喝什么药
得了新冠拉肚子怎么办
多维元素片的功效与作用
干眼症用什么眼药水
感冒引起的咽喉肿痛怎么治疗
相关阅读