广东首个采用国产TPU技术的智算中心,来了!

小微 2024年09月14日 阅读:53234

广东首个采用国产TPU技术的智算中心,来了!
图片来源于网络,如有侵权,请联系删除

(原标题:广东首个采用国产TPU技术的智算中心,来了!)

近日,在第五届深圳国际人工智能展(GAIE)第二届智能算力发展论坛上,中昊芯英(杭州)科技有限公司(以下简称“中昊芯英”)与中国联合网络通信有限公司深圳市分公司(以下简称“深圳联通”)联合举办了“智算基建,加速未来”高性能AI智算中心项目启动仪式,标志着双方将携手合作共同建设广东首个采用国产TPU技术的智算中心。

据了解,中昊芯英作为国内领先的TPU架构AI芯片企业,此次提供了搭载其自主研发的高性能TPU芯片“刹那®”的人工智能服务器及大规模AI计算集群系统“泰则®”,为项目搭建坚实的AI计算底座。深圳联通则凭借其强大的网络资源和丰富的运营经验,将配合政府及行业伙伴,建设针对特定行业的智算节点,预部署相应软件和模型,为社会提供智能算力服务或MaaS服务,赋能产业发展。

把TPU做成AI界的X86

在ChatGPT掀起生成式AI的浪潮以后,美国芯片公司英伟达作为“卖铲人”,凭借其 GPU 在大模型训练和推理中的出色发挥而赚得盆满钵满,其高性能的A100、H100等计算卡供不应求、价格昂贵。在AI时代,要与已在行业中深耕积累了几十年的行业龙头竞争,更务实的选择或许是另辟蹊径,寻觅新的突破口。

“我们想把TPU这个架构做成AI界的X86。”在接受记者采访时,中昊芯英创始人兼CEO杨龚轶凡表示,英特尔的X86统治了PC,CPU时代没有任何架构能够跟X86竞争,直到手机出现,ARM才分走了一部分市场份额。“我们希望TPU架构就是AI界里未来最核心的架构方式。TPU是为了AI的深度学习而设计的,它的想象力比GPU更强,虽然放弃了一些灵活性,但也获取了巨大的性能优势。”杨龚轶凡说。

针对大模型的模型训练和推理性设计,一方面,TPU软件和网络的架构和结构比GPU实现同样性能的网络架构更为简洁和简单,在软件的运维层面也会更简洁一些;另一方面,在硬件的搭载过程中,也会设计让它实现可运维,尽可能降低生产成本、运维成本,最后实现对模型的高算力的支持。

目前,英伟达虽然在高端AI芯片上占据了大多数市场份额,但谷歌、微软、亚马逊等云服务商也是AI芯片领域的重要玩家,其中谷歌TPU更是对英伟达的GPU构成了挑战。目前,国内做TPU芯片的公司并不多,中昊芯英是国内唯一掌握TPU架构AI芯片核心研发技术的公司。据了解,杨龚轶凡曾在谷歌深度参与了TPU 2/3/4的设计与研发,公司汇聚了来自谷歌、甲骨文、微软、海思等全球科技巨头的AI软硬件设计人才,在国产TPU芯片上具有较强的先发优势。

据杨龚轶凡介绍,经过近5年的积累,中昊芯英已经进入第一代产品的量产生产周期。不过,杨龚轶凡也表示,高性能芯片作为时间周期长的科技型产品,公司的TPU虽然用5年走过了“从0到1”,但“从1到100”依然需要时间。“谷歌从年产1000片芯片到今年有280万芯片的量产,花了近10年时间。我们希望在未来的3到4年内,在中昊芯英第10年的时候,也有超过百万片的芯片销售,实现超过百亿元的营收体量。”杨龚轶凡说。

为人工智能产业发展夯实算力基座

深圳作为全国科技创新的前沿阵地,一直走在人工智能产业发展的前列。据深圳联通副总经理赵桂标介绍,中昊芯英与深圳联通本次共建的智算中心是广东地区首个采用国产TPU技术的智算中心。“目前,项目第一期会部署32个智算节点,算力为50P,后期会加快扩容,扩大到千卡集群的规模,助力智算中心相关建设,成为深圳智算核心高地的重要组成部分。”赵桂标表示。

值得一提的是,该项目的优势在于算力的共享,避免单个企业因业务需求波动导致的算力闲置或不足问题,提高算力整体利用率,降低运营成本。同时,该项目将搭载联通云自研“星罗”算力管理平台,实现多元异构算力的适配和服务编排,形成“通算+智算+超算”的融合调度能力,可面向客户提供一体化的算力运营服务,也可用于企业私有化部署的智能算力网络搭建及运营管理。

深圳联通表示,此次双方合作共建的智算中心,是一个由业务需求驱动的项目。这一项目主要有两大特点,一是数、算、用一体,能够满足数算用场景,是一个训练推理一体化的项目;二是这一合作模式可复制,其他地方可以根据这个经验进行快速迭代和复制,快速建立起相关的算力中心,为企业提供训练推理一体化的算力服务。

记者了解到,在中昊芯英与深圳联通共建智算中心的这一合作模式中,双方将充分发挥各自优势,做到资源共享、能力互补、互利共赢。杨龚轶凡表示,中昊芯英作为芯片研发商,在算力集群的软件栈和硬件栈打造上具有专业优势,而深圳联通则擅长云平台的建设和导入、智算中心的建设、能耗的管理。通过合作,双方致力于将智算中心打造得可靠、好用、效率高。

人工智能产业的腾飞离不开算力的支撑。随着AIGC时代的到来,大模型训练、神经网络开发等应用场景对算力的需求日益激增。中昊芯英表示,在企业布局和市场需求的共同推动下,中昊芯英AI高性能智算中心的运营方案也正逐渐走向成熟,将成为推动产业转型升级的重要力量,为人工智能产业的发展夯实算力基座。

热门文章
  • 用“宇宙透镜”验证广义相对论

    用“宇宙透镜”验证广义相对论
    图片来源于网络,如有侵权,请联系删除  近日,美国波特兰社区学院物理学教授托比·迪特里奇和一群学生前往墨西哥中北部的山区小镇埃尔萨尔托附近,在日食投影中心观察太阳周围的光线。此举旨在重现经典天文实验。  爱因斯坦的广义相对论预测,质量巨大的星体例如太阳,会使周围恒星的光线弯曲。在日全食期间观测太阳周围恒星的光线是否弯曲,可以反过来验证广义相对论。  武汉大学物理科学与技术学院教授廖恺说,根据爱因斯坦的广义相对论,光沿零测地线传播,当物质分布导致时空弯曲时,光线会发生偏折。基于...
  • 罗文:强化产品质量安全源头治理

    罗文:强化产品质量安全源头治理
    图片来源于网络,如有侵权,请联系删除党中央、国务院高度重视工业产品质量安全,习近平总书记多次作出重要指示批示、提出明确要求。2024年5月,国务院印发《关于调整完善工业产品生产许可证管理目录的决定》,强化重要工业产品准入管理和源头治理。守牢工业产品质量安全底线,保障人民群众生命财产安全,是市场监管部门必须坚决扛起的政治责任。我国工业产品质量安全状况总体稳定向好图片来源于网络,如有侵权,请联系删除党的十八大以来,在以习近平同志为核心的党中央坚强领导下,我国工业产品质量安全水平有...
  • 鸿蒙生态冲刺期华为聚焦内容全场景分发,提供全方位激励

    鸿蒙生态冲刺期华为聚焦内容全场景分发,提供全方位激励
    图片来源于网络,如有侵权,请联系删除  随着鸿蒙生态设备数量突破9亿,开发者数量达到254万,生态建设进入冲刺期。6月22日,在华为开发者大会2024期间举办的鸿蒙生态内容全场景全媒体分发专场上,中国音像与数字出版协会常务副理事长敖然表示,要坚持技术引领、创新驱动,同时也需要做到兼收并蓄、开放合作。我们鼓励和支持数字内容产业链各环节拥抱鸿蒙生态,紧紧把握科技创新发展趋势,注重前沿技术与高品质内容融合。中国音像与数字出版协会常务副理事长敖然  依托于盘古大模型,HarmonyO...
  • 注意!航天彩虹将于7月18日召开股东大会

    注意!航天彩虹将于7月18日召开股东大会
    图片来源于网络,如有侵权,请联系删除每经AI快讯,航天彩虹(SZ 002389,收盘价:13.92元)7月1日发布公告称,2024年7月18日(星期四)下午14:00,公司将在北京市丰台区云岗西路17号北京浦金凯航国际大酒店一层会议室召开2024年第二次临时股东大会。本次股东大会将审议《关于2021年限制性股票激励计划第二个解除限售期解除限售条件未成就暨回购注销部分限制性股票的议案》等议案,2024年7月15日收市后登记在册的股东可现场参会投票,或通过交易所投票系统行使表决权...
  • 券商今日金股:6份研报力推一股(名单)

    券商今日金股:6份研报力推一股(名单)
    图片来源于网络,如有侵权,请联系删除券商评级是指证券公司的分析师,通过分析上市公司的财务潜力、财务指标、公司运营治理能力,然后进行实地考察调研后得出的评论,备受投资者关注。 据证券之星数据库不完全统计,7月1日券商共给予近30家A股上市公司“买入”评级。从行业分布看,券商7月1日关注的个股聚焦于中药、电子化学品、贵金属、半导体、电网设备、医疗器械、酿酒等行业。 作为我国医药健康头部企业,昆药集团最受券商关注,近一个月获华安证券、中国银河、东吴证券、开源证券、国海证券等...