广东首个采用国产TPU技术的智算中心,来了!

小微 2024年09月14日 阅读:57588

广东首个采用国产TPU技术的智算中心,来了!
图片来源于网络,如有侵权,请联系删除

(原标题:广东首个采用国产TPU技术的智算中心,来了!)

近日,在第五届深圳国际人工智能展(GAIE)第二届智能算力发展论坛上,中昊芯英(杭州)科技有限公司(以下简称“中昊芯英”)与中国联合网络通信有限公司深圳市分公司(以下简称“深圳联通”)联合举办了“智算基建,加速未来”高性能AI智算中心项目启动仪式,标志着双方将携手合作共同建设广东首个采用国产TPU技术的智算中心。

据了解,中昊芯英作为国内领先的TPU架构AI芯片企业,此次提供了搭载其自主研发的高性能TPU芯片“刹那®”的人工智能服务器及大规模AI计算集群系统“泰则®”,为项目搭建坚实的AI计算底座。深圳联通则凭借其强大的网络资源和丰富的运营经验,将配合政府及行业伙伴,建设针对特定行业的智算节点,预部署相应软件和模型,为社会提供智能算力服务或MaaS服务,赋能产业发展。

把TPU做成AI界的X86

在ChatGPT掀起生成式AI的浪潮以后,美国芯片公司英伟达作为“卖铲人”,凭借其 GPU 在大模型训练和推理中的出色发挥而赚得盆满钵满,其高性能的A100、H100等计算卡供不应求、价格昂贵。在AI时代,要与已在行业中深耕积累了几十年的行业龙头竞争,更务实的选择或许是另辟蹊径,寻觅新的突破口。

“我们想把TPU这个架构做成AI界的X86。”在接受记者采访时,中昊芯英创始人兼CEO杨龚轶凡表示,英特尔的X86统治了PC,CPU时代没有任何架构能够跟X86竞争,直到手机出现,ARM才分走了一部分市场份额。“我们希望TPU架构就是AI界里未来最核心的架构方式。TPU是为了AI的深度学习而设计的,它的想象力比GPU更强,虽然放弃了一些灵活性,但也获取了巨大的性能优势。”杨龚轶凡说。

针对大模型的模型训练和推理性设计,一方面,TPU软件和网络的架构和结构比GPU实现同样性能的网络架构更为简洁和简单,在软件的运维层面也会更简洁一些;另一方面,在硬件的搭载过程中,也会设计让它实现可运维,尽可能降低生产成本、运维成本,最后实现对模型的高算力的支持。

目前,英伟达虽然在高端AI芯片上占据了大多数市场份额,但谷歌、微软、亚马逊等云服务商也是AI芯片领域的重要玩家,其中谷歌TPU更是对英伟达的GPU构成了挑战。目前,国内做TPU芯片的公司并不多,中昊芯英是国内唯一掌握TPU架构AI芯片核心研发技术的公司。据了解,杨龚轶凡曾在谷歌深度参与了TPU 2/3/4的设计与研发,公司汇聚了来自谷歌、甲骨文、微软、海思等全球科技巨头的AI软硬件设计人才,在国产TPU芯片上具有较强的先发优势。

据杨龚轶凡介绍,经过近5年的积累,中昊芯英已经进入第一代产品的量产生产周期。不过,杨龚轶凡也表示,高性能芯片作为时间周期长的科技型产品,公司的TPU虽然用5年走过了“从0到1”,但“从1到100”依然需要时间。“谷歌从年产1000片芯片到今年有280万芯片的量产,花了近10年时间。我们希望在未来的3到4年内,在中昊芯英第10年的时候,也有超过百万片的芯片销售,实现超过百亿元的营收体量。”杨龚轶凡说。

为人工智能产业发展夯实算力基座

深圳作为全国科技创新的前沿阵地,一直走在人工智能产业发展的前列。据深圳联通副总经理赵桂标介绍,中昊芯英与深圳联通本次共建的智算中心是广东地区首个采用国产TPU技术的智算中心。“目前,项目第一期会部署32个智算节点,算力为50P,后期会加快扩容,扩大到千卡集群的规模,助力智算中心相关建设,成为深圳智算核心高地的重要组成部分。”赵桂标表示。

值得一提的是,该项目的优势在于算力的共享,避免单个企业因业务需求波动导致的算力闲置或不足问题,提高算力整体利用率,降低运营成本。同时,该项目将搭载联通云自研“星罗”算力管理平台,实现多元异构算力的适配和服务编排,形成“通算+智算+超算”的融合调度能力,可面向客户提供一体化的算力运营服务,也可用于企业私有化部署的智能算力网络搭建及运营管理。

深圳联通表示,此次双方合作共建的智算中心,是一个由业务需求驱动的项目。这一项目主要有两大特点,一是数、算、用一体,能够满足数算用场景,是一个训练推理一体化的项目;二是这一合作模式可复制,其他地方可以根据这个经验进行快速迭代和复制,快速建立起相关的算力中心,为企业提供训练推理一体化的算力服务。

记者了解到,在中昊芯英与深圳联通共建智算中心的这一合作模式中,双方将充分发挥各自优势,做到资源共享、能力互补、互利共赢。杨龚轶凡表示,中昊芯英作为芯片研发商,在算力集群的软件栈和硬件栈打造上具有专业优势,而深圳联通则擅长云平台的建设和导入、智算中心的建设、能耗的管理。通过合作,双方致力于将智算中心打造得可靠、好用、效率高。

人工智能产业的腾飞离不开算力的支撑。随着AIGC时代的到来,大模型训练、神经网络开发等应用场景对算力的需求日益激增。中昊芯英表示,在企业布局和市场需求的共同推动下,中昊芯英AI高性能智算中心的运营方案也正逐渐走向成熟,将成为推动产业转型升级的重要力量,为人工智能产业的发展夯实算力基座。

热门文章
  • 人保车险,人保有温度_中国电子音响行业:2025线上渠道成为销售的重要渠道

    人保车险,人保有温度_中国电子音响行业:2025线上渠道成为销售的重要渠道
    图片来源于网络,如有侵权,请联系删除人保车险,人保有温度_中国电子音响行业:2025线上渠道成为销售的重要渠道 2025年5月27日 来源:中研网 537 29 北京用户提问:市场竞争激烈,外来强手加大布局,国内主题公园如何突围? 上海用户提问:智能船舶发展行动计划发布,船舶制造企业的机 江苏用户提问:研发水平落后,低端产品比例大,医...
  • 养生壶赛道爆发:2025年中国“轻养生”趋势与品牌竞争格局前瞻_人保伴您前行,人保有温度

    养生壶赛道爆发:2025年中国“轻养生”趋势与品牌竞争格局前瞻_人保伴您前行,人保有温度
    图片来源于网络,如有侵权,请联系删除养生壶赛道爆发:2025年中国“轻养生”趋势与品牌竞争格局前瞻 2025年6月4日 来源:互联网 1353 89 北京用户提问:市场竞争激烈,外来强手加大布局,国内主题公园如何突围? 上海用户提问:智能船舶发展行动计划发布,船舶制造企业的机 江苏用户提问:研发水平落后,低端产品比例大,医药企业如何实...
  • 人保车险 品牌优势——快速了解燃油汽车车险,人保财险 _中国酵素饮料行业:2025正逐渐受到消费者的关

    人保车险   品牌优势——快速了解燃油汽车车险,人保财险 _中国酵素饮料行业:2025正逐渐受到消费者的关
    图片来源于网络,如有侵权,请联系删除中国酵素饮料行业:2025正逐渐受到消费者的关 2025年5月31日 来源:中研网 1059 67 北京用户提问:市场竞争激烈,外来强手加大布局,国内主题公园如何突围? 上海用户提问:智能船舶发展行动计划发布,船舶制造企业的机 江苏用户提问:研发水平落后,低端产品比例大,医药企业如何实现转型?...
  • 伊利股份获得外观设计专利授权:“包装瓶(谷粒多生榨玉米汁-1L)”

    伊利股份获得外观设计专利授权:“包装瓶(谷粒多生榨玉米汁-1L)”
    图片来源于网络,如有侵权,请联系删除证券之星消息,根据天眼查APP数据显示伊利股份(600887)新获得一项外观设计专利授权,专利名为“包装瓶(谷粒多生榨玉米汁-1L)”,专利申请号为CN202430644458.5,授权日为2025年5月27日。 专利摘要:1.本外观设计产品的名称:包装瓶(谷粒多生榨玉米汁?1L)。2.本外观设计产品的用途:用于产品包装。3.本外观设计产品的设计要点:在于形状与图案的结合。4.最能表明设计要点的图片或照片:立体图1。 今年以来伊利股...
  • 人保车险,人保财险政银保 _2025年镁粉行业发展趋势及产业调研报告

    人保车险,人保财险政银保 _2025年镁粉行业发展趋势及产业调研报告
    图片来源于网络,如有侵权,请联系删除2025年镁粉行业发展趋势及产业调研报告 2025年6月5日 来源:互联网 595 33 北京用户提问:市场竞争激烈,外来强手加大布局,国内主题公园如何突围? 上海用户提问:智能船舶发展行动计划发布,船舶制造企业的机 江苏用户提问:研发水平落后,低端产品比例大,医药企业如何实现转型? 广东...