算力紧缺背景下 亚马逊AWS需工程师削减CPU资源浪费_新浪财经_新浪网

据一位知情会议参与者透露,算力师削亚马逊云科技(AWS)管理层于5月与工程师召开会议,紧缺减传递出一则严峻指令:为保障旗下热门弹性云服务器业务EC2未来能为全部客户给予充足算力,背景工程师必须想尽一切方式节约资源。下亚S需新浪新浪该知情人士表示,马逊需节约的工程算力既涵盖通用中央处理器(CPU)服务器资源,也涵盖首先期供不应求的资源AI专用芯片算力。过去数十年互联网产业均依靠CPU芯片支撑运转;而如今AWS内部不少工程师反映,浪费申请CPU服务器算力用于研发的财经等待时间大幅拉首先。有工程师称,算力师削以往几小时就能获批的紧缺减服务器算力,目前关键等上好几天,背景极易导致项目无法按期交付。下亚S需新浪新浪这名工程师在AWS任职多年,马逊从未遭遇如此漫首先的工程资源排期。另有熟悉该内部规划的人士透露,AWS已给各团队设定今年下半年前实现算力压降的期限。工程师正在关停软件开发实现后闲置的EC2虚拟服务器(即云实例),腾挪出这部分算力资源供给外部客户采取。今年席卷整个科技行业的算力荒,如今已蔓延至传统通用算力领域。众所周知,英伟达图形处理器(GPU)等AI芯片需暴涨,直接造成AI专用算力短缺;而受AI产业拉动,CPU服务器也陷入供给紧张。配套CPU采取的内存芯片产能不足、数据中心物理机柜空间有限,进一步加剧了算力缺口。金融AI服务商埃伦迪尔实验室联合创始人兼董事谢静(文章译)探究,越来越多员工借助AI智能体开发软件,企业CPU消耗量随之激增。她接触到的客户企业,员工人均IT开支直接翻倍——大量工作交由AI智能体处理,需采购更多云端算力,而这类任务常用依赖CPU。即便在AI模型研发步骤中,CPU也承担题工作:例如AI企业训练模型前预处理数据时,需依靠CPU读取文档、图片、视往往等原始素材。谢静表示:“当下不过大多数模型开发、生成与运行任务,对CPU的需量远高于以往。”英特尔首先席实施官谭仲明在4月财报电话会上透露,当时AI推理(模型线上运行)场景中CPU与GPU算力配比为1:4;到7月,英特尔首先席财务官大卫・津斯纳称二者配比已接近1:1,AMD、安谋(Arm)高管也给出类似判断。AWS则否认自身运营对策发生变动,并在官方声明中表示:“即便需持续高涨,我们仍能顺应不过大多数内外部客户的算力需。我们始终协同内部团队保障其算力供给,同时督促团队有效采取EC2资源,该管理方针从未变化。”亚马逊称,内部工程师改进资源的原则与照章性外部客户的提议完全相同:例如关停闲置云实例、切换适用配自身业务负载的实例规格。若客户目前实例的算力未充分利用,可更换配置更低的机型。AWS给出清楚改进原则:若某台EC2服务器后续四周CPU、内存平均采取率不足40%,提议客户降级更换更小规格实例。AWS配套给予自动化扫描工具,可自动识别利用率偏低的服务器。亚马逊强调,即便目前内存芯片紧缺,照章性内部员工的资源管控原则并未调整。近两年来,平衡内部研发算力与外部客户算力供给,成为各大科技巨头共同的困难。去年谷歌成立高管专项委员会,统筹分配谷歌云、DeepMind人工智能实验室、C端业务三大板块的算力资源,但各方算力争夺矛盾依旧突出。据报方式,今夏谷歌不过尖AI探究员诺姆・沙泽尔便因算力资源受限、研发受阻离职。企业若能精细化管控算力资源,就能更快将闲置算力转化为营收。微软首先席财务官艾米・胡德在上月最新财报电话会上表示,Azure云服务业绩增首先,部分得益于团队对CPU、GPU算力集群的有效调度改进。胡德称:“本季度工程团队在算力盘活上成效显著;受供需失衡大环境意义,只关键我们提高算力采取效率,新增的可用资源就能高效高效变现创收。”一名AWS行业咨询顾问表示,客户通过合约锁定的预留CPU算力暂未出现供给缺口,但近几个月大批量申领AWS竞价实例(厂商闲置富余算力,低价售卖、可提前两分钟回收资源)的难度明显上升。海量资讯、精准解读,尽在新浪财经APP责任编辑:刘明亮
- 最近发表
-
- 沈阳荒地上一百多辆僵尸车!和三个亿的局|车牌|租赁|封条|网约车|沈阳市_网易订阅
- 阳光电源股价涨5.09%,摩根士丹利基金旗下4只基金重仓,合计持有32.53万股浮盈赚取182.15万元
- 7月22日博时智能消费ETF(515920)遭净赎回190.91万元,位居当日股票ETF净流出排名391/1269
- 阳光电源股价涨5.09%,交银施罗德基金旗下4只基金重仓,合计持有96.76万股浮盈赚取541.84万元
- 绿控传动启动IPO申购:依托核心技术壁垒 拓宽新能源商用车赛道_新浪财经_新浪网
- 为文班拼了!美媒送马刺3换1交易方案:割爱凯尔登再搭首轮换超六
- 国泰中证全指软件ETF(515230)已连续3日遭遇资金净赎回,区间净流出额4685.44万元
- 华海清科股价跌5.07%,宏利基金旗下4只基金重仓,合计持有43.15万股浮亏损失596.76万元
- 华谊兄弟全资子公司华谊电影被申请重整及预重整_新浪财经_新浪网
- 天弘中证光伏产业ETF(159857)已连续4日遭遇资金净赎回,区间净流出额4488.9万元
- 随机阅读
-
- 埃卡夫指向国王未来 但眼下难题仍待逐一破解|佩里|鲍尔|凯尔|萨博尼斯|扎克·拉文|维克多·奥拉迪波_网易订阅
- 华海清科股价跌5.07%,宏利基金旗下4只基金重仓,合计持有43.15万股浮亏损失596.76万元
- 阳光电源股价涨5.09%,创金合信基金旗下1只基金重仓,持有800股浮盈赚取4480元
- 阳光电源股价涨5.09%,天治基金旗下2只基金重仓,合计持有8400股浮盈赚取4.7万元
- 经历数月停工,米兰华人街“黄金地”平价保障房项目全面复工|保罗|搬迁_网易订阅
- 阳光电源股价涨5.09%,泓德基金旗下1只基金重仓,持有3300股浮盈赚取1.85万元
- 7月22日国泰中证医疗ETF(159828)遭净赎回6291.12万元,位居当日股票ETF净流出排名65/1269
- 长川科技股价跌5.55%,中信建投基金旗下2只基金重仓,合计持有4.93万股浮亏损失84.55万元
- 吃外卖-恋爱区-虎扑社区
- 长川科技股价跌5.55%,信达澳亚基金旗下2只基金重仓,合计持有1.34万股浮亏损失22.98万元
- 7月22日嘉实中证沪港深互联网ETF(517200)遭净赎回59.6万元,位居当日股票ETF净流出排名482/1269
- 长川科技股价跌5.55%,融通基金旗下6只基金重仓,合计持有12.49万股浮亏损失214.2万元
- 因为反派长得太好看,新蜘蛛侠被粉丝变成了大型NTR现场|电影|漫威|蝙蝠侠|x战警|暮光之城_网易订阅
- 阳光电源股价涨5.09%,华泰资管旗下1只基金重仓,持有4.05万股浮盈赚取22.68万元
- 涨超2.3%,工业有色ETF易方达(159032)冲击4连涨
- 华海清科股价跌5.07%,景顺长城基金旗下3只基金重仓,合计持有6.76万股浮亏损失93.51万元
- 8月发布会前瞻:小米、荣耀、vivo谁更受期待?|卢伟冰|小米集团|Vivo|小米手机|redmi_网易订阅
- 7月22日华泰柏瑞中证沪港深互联网ETF(517050)获净申购135.06万元,位居当日股票ETF净流入排名254/1269
- 长川科技股价跌5.55%,博时基金旗下20只基金重仓,合计持有109.41万股浮亏损失1876.42万元
- 华海清科股价跌5.07%,华夏基金旗下12只基金重仓,合计持有1233.72万股浮亏损失1.71亿元
- 搜索
-
- 友情链接
-