棉花文学网

手机浏览器扫描二维码访问

第354章 算力还是电力(第1页)

“算力是AI世界发展的基础,而算力的瓶颈归根到底还是电力....”

“根据ChatGPT原国外团队,提供的数据来说,他们的AI大模型训练,电力需求将以每年约10%的速度增长,能耗将为常规云工作的三倍。”

“而这仅仅是训练AI模型的前期电力,仅占模型实际使用时所消耗电力的40%。而我们的1%,在这一方面,即便服务器使用的相对来说比运算量的ChatGPT要少30%,这一年来的运转下来,我们的用电量依旧是相当惊人的。”

“是的,AI服务器的功率较普通服务器高6-8倍,这对于电源的需求也将同步提升,通用型服务器原来只需要2颗800W服务器电源,而AI服务器的需求直接提升为4颗1800W高功率电源,服务器能耗成本直接3100元直接飙升到元,大涨3倍。”

“你还没有算应对为运行日益能源密集型工作负载的计算机服务器组群供电和散热而产生的额外成本。”

“以目前的形式来看,大厦的回收电量勉强能够支撑部分支出,但是到了冬日....”

“据全球最大商业房地产服务公司统计,数据中心客户囊括了小型企业到大型云服务供应商,目前消耗电力的速度快于数据中心运营商扩展容量的速度。由于人工智能用例的增加,供应限制日益严重,导致数据中心收取的价格更是离谱,显然这个方案是不可行的。”

.......

在ly大厦的一间会议室中,大家为1%“吃电”的大模型服务器,而感到头疼。

何依霖看着会计送过来的账单,竖起了眉头。“技术开发那块现在怎么说了?”

“可使用高度优化、甚至是更简单、更专业的小型神经网络模型来降低数据中心成本,方法是减少云端的模型规模,将海量参数网络用于快速训练较小的模型,并将工作负载完全移出云端,从而将生成式AI应用程序更加经济高效地分发给智能手机、PC、车辆和移动XR产品等分布式平台上运行。”技术部总监说道。

何依霖在桌子上敲动着手指,对这一块拿不定主意,他技术方面得仰仗李奥才行啊。

“随着消费者使用量的增加,成本将不可避免地攀升。将计算转移到边缘,并将其分配给PC、智能手机和XR设备等客户端是降低资本和运营成本的关键途径。”技术部总监又补充说明道。

“通俗的来说....就是现在人工智能的潜力是无限的,但物理和成本最终可能是界限。”何依霖概括的说道。

“是的。”技术部总监点头说道。

按照当前的技术路线和发展模式,1%必将引发两个问题:一方面,数据中心的规模将会越来越庞大,其功耗也随之水涨船高,且运行越来越缓慢。

另一方面,AI芯片朝高算力、高集成方向演进,依靠制程工艺来支撑峰值算力的增长,制程越来越先进,其功耗和水耗也越来越大。

这时,李奥打来了电话。

何依霖的烦恼顿时烟消云散,今天是李奥出院的日子,今天早上还发微信过来说过几天来新家过生日派对呢。

何依霖赶忙接起,刚接通,就听到李奥近乎咆哮的声音。

“他妈的,我要你从现在开始,以任何手段,针对深控这个狗娘养的,我要穆家从此再无翻身之日,马勒戈壁的。艹!!”

鹰酱:刚建国,你家东风飞遍全球?  我孙连城心怀宇宙,钟小艾慕了  坏女巫她靠种田养龙[西幻]  七零高嫁,二婚肥妻被硬汉老公宠断腰  一秒涨亿金,我靠买买买成神  刀剑劫之十年磨一剑  故乡那片云  银色希翼  客栈通古今,战神将军奉我为神明  病弱大佬拿命玄学,全网罪犯泪崩  朕都装断袖了还要怎样!  异世界召唤师,带着老婆来种地  王者:开局拐走朵莉亚  【快穿】渣渣洗白日常  木筏求生,重生把前男友喂鲨鱼  我在修仙界万古长青  憨憨和呆呆  巫界之死灵巫师  东京:虫:真心话大冒险  人间芳华  

热门小说推荐
穿越古代后我暴富了

穿越古代后我暴富了

一睁眼,家穷,人丑,世道乱,夏江莹以为自己要凉了。结果突然发现自己在古代赚钱竟然是如此的简单!?难道是老天爷给的护身buff??于是赶紧赚赚赚,囤囤囤,在乱世中攒出一笔身家来!至于那位落魄的温柔嫡仙儿小哥嘛,喂,我养你啊!青梅竹马x强强x1v1x励志搞钱x扮猪吃老虎x团购金手指x古代欢脱轻松日常小白文本文属性关键词奉上注意排雷哦!欢迎友好讨论谢绝吵吵哟如果您喜欢穿越古代后我暴富了,别忘记分享给朋友...

晚宋

晚宋

宋蒙联合灭金是南宋王朝所犯下的最大战略错误,如果宋蒙当时谈判失败,历史之路又该如何走?本书就假设了一个偶然的因素导致了宋蒙联合灭金的谈判失败后,历史从此改变的故事。本书主人翁李思业是唐朝一支没落宗室的后裔,城破后十四岁的他被掳到金国成为奴隶,几经波折,他重获自由身后回到故国的都城临安,并渐成商贾。一个偶然的发现,他...

我在地府有间客栈

我在地府有间客栈

诗曰黄泉路上无客栈,望乡台上思远亲。孟婆碗中忆成空,奈何桥上情丝断。可是不知道从什么时候,有一个叫妖天寒的家伙在黄泉路上开了间客栈。至于这间客栈的名字,你猜!如果您喜欢我在地府有间客栈,别忘记分享给朋友...

你为何召唤我

你为何召唤我

一群各个领域的强者之魂被禁锢在了一片名为虚空的无尽牢狱之中。在一片被黑暗所完全笼罩的地方,正在上演着一场惊天动地的大战,双翼燃烧着火焰的天使,浑身披挂着厚重盔甲的骑士,手持金色长剑的十字军战士,...

穿书后BOSS要娶我

穿书后BOSS要娶我

穿越成同名同姓的炮灰女配,书中男主还是她的前男友!重来一次,季文文自然不会重蹈覆辙。可谁知你们看今天的热搜了吗?季文文昨晚被拍到去了江家!!什么?难道季文文要和江言风和好了吗?江氏集团大楼江言临刷着手机,看着热搜上面的消息,翻了无数个白眼。这些网友怎么回事!江家难道只有江言风一位少爷吗?如果您喜欢穿书后BOSS要娶我,别忘记分享给朋友...

七十亿地球神明申请出战

七十亿地球神明申请出战

关于七十亿地球神明申请出战地球毁灭。我们重生于七十亿个地球之上。却有无数个外神对你虎视眈眈。被标记了,即是无止境的侵略与死亡。从昆吾界归来的王侯,打开了地球神明的逆袭之路,面对七十亿疯狂出击的地球神明,外神,你们怕了没?本书部分灵感来自,八十亿疯狗出笼PS,本书类型为全球穿越全球神祗第四天灾,请谨慎食用。PS2,书友群,141033937。...

每日热搜小说推荐