手机浏览器扫描二维码访问
“算力是AI世界发展的基础,而算力的瓶颈归根到底还是电力....”
“根据ChatGPT原国外团队,提供的数据来说,他们的AI大模型训练,电力需求将以每年约10%的速度增长,能耗将为常规云工作的三倍。”
“而这仅仅是训练AI模型的前期电力,仅占模型实际使用时所消耗电力的40%。而我们的1%,在这一方面,即便服务器使用的相对来说比运算量的ChatGPT要少30%,这一年来的运转下来,我们的用电量依旧是相当惊人的。”
“是的,AI服务器的功率较普通服务器高6-8倍,这对于电源的需求也将同步提升,通用型服务器原来只需要2颗800W服务器电源,而AI服务器的需求直接提升为4颗1800W高功率电源,服务器能耗成本直接3100元直接飙升到元,大涨3倍。”
“你还没有算应对为运行日益能源密集型工作负载的计算机服务器组群供电和散热而产生的额外成本。”
“以目前的形式来看,大厦的回收电量勉强能够支撑部分支出,但是到了冬日....”
“据全球最大商业房地产服务公司统计,数据中心客户囊括了小型企业到大型云服务供应商,目前消耗电力的速度快于数据中心运营商扩展容量的速度。由于人工智能用例的增加,供应限制日益严重,导致数据中心收取的价格更是离谱,显然这个方案是不可行的。”
.......
在ly大厦的一间会议室中,大家为1%“吃电”的大模型服务器,而感到头疼。
何依霖看着会计送过来的账单,竖起了眉头。“技术开发那块现在怎么说了?”
“可使用高度优化、甚至是更简单、更专业的小型神经网络模型来降低数据中心成本,方法是减少云端的模型规模,将海量参数网络用于快速训练较小的模型,并将工作负载完全移出云端,从而将生成式AI应用程序更加经济高效地分发给智能手机、PC、车辆和移动XR产品等分布式平台上运行。”技术部总监说道。
何依霖在桌子上敲动着手指,对这一块拿不定主意,他技术方面得仰仗李奥才行啊。
“随着消费者使用量的增加,成本将不可避免地攀升。将计算转移到边缘,并将其分配给PC、智能手机和XR设备等客户端是降低资本和运营成本的关键途径。”技术部总监又补充说明道。
“通俗的来说....就是现在人工智能的潜力是无限的,但物理和成本最终可能是界限。”何依霖概括的说道。
“是的。”技术部总监点头说道。
按照当前的技术路线和发展模式,1%必将引发两个问题:一方面,数据中心的规模将会越来越庞大,其功耗也随之水涨船高,且运行越来越缓慢。
另一方面,AI芯片朝高算力、高集成方向演进,依靠制程工艺来支撑峰值算力的增长,制程越来越先进,其功耗和水耗也越来越大。
这时,李奥打来了电话。
何依霖的烦恼顿时烟消云散,今天是李奥出院的日子,今天早上还发微信过来说过几天来新家过生日派对呢。
何依霖赶忙接起,刚接通,就听到李奥近乎咆哮的声音。
“他妈的,我要你从现在开始,以任何手段,针对深控这个狗娘养的,我要穆家从此再无翻身之日,马勒戈壁的。艹!!”
客栈通古今,战神将军奉我为神明 刀剑劫之十年磨一剑 坏女巫她靠种田养龙[西幻] 【快穿】渣渣洗白日常 银色希翼 憨憨和呆呆 故乡那片云 我在修仙界万古长青 木筏求生,重生把前男友喂鲨鱼 巫界之死灵巫师 异世界召唤师,带着老婆来种地 病弱大佬拿命玄学,全网罪犯泪崩 一秒涨亿金,我靠买买买成神 朕都装断袖了还要怎样! 王者:开局拐走朵莉亚 七零高嫁,二婚肥妻被硬汉老公宠断腰 人间芳华 我孙连城心怀宇宙,钟小艾慕了 鹰酱:刚建国,你家东风飞遍全球? 东京:虫:真心话大冒险
关于摄政王的毒医娇妃二十一世纪天才沐子鱼意外被炸死穿越,治绿茶妹妹,手撕四王爷。上得厅堂下得厨房,打得了做精,治的了妖王。你是摄政王又如何?姐玩儿了你就甩了你。哦?某人扯开衣襟,你舍得吗...
无敌爽文苏小凡重生在龙神世界,成为灵皇,开局便是灵皇血脉,至尊天赋。做为灵族的唯一男性,他必须肩负起壮大灵族的重任。强化系统激活,强化属性强化装备强化技能一切皆可强化!神级玩家泥马,一个小兵就把我们十万精兵给灭了?书友群707303650...
我真的只想禅让啊!我,汉献帝刘协。真的只是想禅让而已啊!为什么所有人都觉得我是中兴之主?为什么满朝文武都是脑补怪?曹操你不要跑,我真的想献帝啊!小说影视在线『po1⒏mоbi』...
如果您喜欢三婚完美,总裁二擒天价前妻,别忘记分享给朋友...
我向年轻人贩卖焦虑,他们称我为人生灯塔我向富婆贩卖焦虑,她们认为我是比柳永还要懂女人的妇女之友我向仕宦者贩卖焦虑,他们认为我是个有远见的人我向帝皇贩卖焦虑,他们称我是忧国忧民的仁人志士奋不顾身的谏言者以及智者其实,我一开始不过就是想制造一些焦虑,以此谋取点好处罢了。只是没有想到的是,在贩卖焦虑的过程中,我成了大宋首富大宋开宗立派的词人,大宋朝的守护者大宋皇帝宋神宗赵顼最亲密的战友苏轼的救世主王安石的拯救者辽国贵族最惧怕的毁灭者其实我想说的是,我不是针对谁,在座的诸位全都是韭菜!如果您喜欢我在大宋贩卖焦虑,别忘记分享给朋友...
关于夺爱帝少请放手一次交易,她怀上了孩子,她怀着孕,嫁给了和她定有娃娃亲的男人。本以为这时一场各怀心思的交易,却在这段婚姻里,纠缠出不该有的深情。十月怀胎临产之时,他地上一纸离婚协议书,她才幡...