搜索
房产
装修
汽车
婚嫁
健康
理财
旅游
美食
跳蚤
二手房
租房
招聘
二手车
教育
茶座
我要买房
买东西
装修家居
交友
职场
生活
网购
亲子
情感
龙城车友
找美食
谈婚论嫁
美女
兴趣
八卦
宠物
手机

火山引擎打造“多云多模子”架构 鞭策行业智能化升级

[复制链接]
查看: 109|回复: 0

3万

主题

0

回帖

9万

积分

论坛元老

Rank: 8Rank: 8

积分
95723
发表于 2025-7-14 10:12 | 显示全部楼层 |阅读模式
AI大模子技术利用爆发,云市场也在加速变化。
4月18日,火山引擎在其举行的“原动力大会”上公布自研DPU等系列云产物,并推出新版机械进修平台:支持万卡级大模子练习、微秒级提早收集,让大模子练习更稳更快。火山引擎总裁谭待暗示,AI大模子有庞大潜力和创新空间,火山引擎会办事客户做好大模子,配合鞭策各行业的智能化升级。
“国内稀有十家做大模子的企业,大多已经在火山引擎云上”,谭待以为,大模子不会一家独大。与其他云厂商力推自家大模子分歧的是,火山引擎将接入多家大模子深度合作,为企业和消耗者供给更丰富的AI利用。
会上,火山引擎公布与字节跳动国内营业并池。基于内外同一的云原生根本架构,抖音等营业的余暇计较资本可极速调剂给火山引擎客户利用,离线营业资本分钟级调剂10万核CPU,在线营业资本也可潮汐复用,弹性计较抢占式实例的价格最高可优惠80%以上。
让大模子练习快速跑起来
自2022年末公布以来,ChatGPT成为人类历史上最快获得上亿用户的消耗级互联网利用。最新的GPT-4大模子,更是在法令、数学、生物学等多项测试中跨越90%人类。
谭待暗示,国内很多科技公司投入到大模子扶植中,他们有优异的技术团队,也有丰富的行业常识和创新想法,但常常缺少经过大范围场景理论的系统工程才能。火山引擎要做的就是为大模子客户供给高稳定性和高性价比的AI根本设备。
据悉,火山引擎机械进修平台经过抖音等海量用户营业持久打磨,支持单使命万卡级此外超大范围散布式并行练习场景。GPU弹性计较实例可灵活调剂资本,随用随取,最高可以为客户节省70%的算力本钱。
字节跳动副总裁杨震原以为,营业创新需要试错,试错要大胆、灵敏,但试错也一定要控制本钱。经过潮汐、混部等方式,火山引擎实现资本的高操纵率和极低本钱。以抖音保举系统为例,工程师用15个月的样本练习某个模子,5小时就能完成练习,本钱只要5000元。火爆全网的抖音“AI绘画”殊效,从启动到上线只用一周多时候,模子由一位算法工程师完成练习。
MiniMax是今朝国内少数已经推出自研大模子产物的AI技术公司,具有文本、视觉、声音三种通用大模子引擎才能。据MiniMax结合开创人杨斌先容,MiniMax与火山引擎合作建立了超大范围尝试平台,实现千卡级常态化练习;超大范围推理平台有万卡级算力池,支持单日过亿次挪用。在火山引擎的云上,MiniMax大模子营业实现快速冲破。
谭待流露,火山引擎的大模子云平台获得智谱AI、昆仑万维等众多企业的杰出反应。国内大模子范畴,七成以上已是火山引擎客户。
向“多云多模子”架构演进
有批评称,大模子将成为云厂商弯道超车的机遇。谭待对此暗示,大模子还在成长早期,面临数据平安、内容平安、隐私庇护、版权庇护等很多题目需要尽力处理。但可以预见,大模子将带动云上AI算力急剧增加,AI算力的工作负载与通用算力的差异会越来越小,这会为各家云厂商带来新的机遇,同时也会对数据中心、软硬件栈、PaaS平台带来新的应战。
以数据中心的算力结构为例,谭待暗示:“大模子需要大算力,虚拟化会带来资本消耗,范围越大就消耗越多。未来3年内,大范围的算力中心,都将构成‘CPU+GPU+DPU’的夹杂算力结构,CPU负责通用计较,GPU负责AI计较,DPU负责资本卸载、加速和隔离,提升资本效力”。
此次原动力大会上,火山引擎公布了新一代自研DPU,实现计较、存储、收集的全组件卸载,开释更多资本给营业负载。火山引擎虽然是“最年轻”的云厂商,其自研DPU已到达业界领先水平,收集性能高达5000万pps转发才能、提早低至20us。基于自研DPU的各类计较实例性能也有明显提升,例如适用于大模子散布式并行练习场景的GPU实例,相较上一代实例集群性能最高提升3倍以上。
自动驾驶公司毫末智行与火山引擎合作打造智算中心,为DriveGPT自动驾驶天生式预练习模子供给强大的算力支持。毫末智行CEO顾维灏先容,DriveGPT利用量产车4000万千米的人驾数据练习,参数范围达1200亿,对自动驾驶认知决议模子停止延续优化。
谭待暗示,在大模子及下流利用成长鞭策下,不管传统企业还是草创企业,对AI算力都有迫切需求,企业利用多家云办事将成为常态。同时,各行业有自己高质量的私有语料,大模子不会一家独大,而是会在千行百业发展,构成多模子共生甚至合作的生态。“未来将是‘多云多模子’的时代”,谭待称。
火山引擎也顺势推出了散布式云原生平台、多云平安、多云CDN、veStack夹杂云平台等系列产物,支持客户更好天时用多家云办事。“字节跳动用过全球几近每一朵私有云,以及大大都CDN,构成一套完整的散布式云治理系统和架构理论”,谭待深信火山引擎是最懂多云和散布式云的云办事商,这些技术才能城市毫无保存地供给给客户。
杨震原进一步暗示,火山引擎对内对外供给同一的产物,抖音、本日头条等APP开屏都加上了“火山引擎供给计较办事”。杨震原说:“数字化时代,机械进修可以智能、高效地围绕方针处理题目。数字化的下一步是智能化,我们在机械进修方面的技术堆集和经历,城市通偏激山引擎供给给内部客户,帮助更多企业做好智能化”。(刘锐)
来历:光亮网
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright © 2006-2014 kook牡丹江信息网-免费发布信息 版权所有 法律顾问:高律师 客服电话:0791-88289918
技术支持:迪恩网络科技公司  Powered by Discuz! X3.4
快速回复 返回顶部 返回列表