第1344章 RC-1401的显存只有12G (第2/2页)
2GB GDDR5显存,位宽也达到了384bit。”
“FP32可以达到4.1 TFLOPS。”
“等我们拿到第一批工程样卡进行上机测试,只要验证没问题,就可以立刻拉上软件工程组的人,一起动手解决分布式训练的框架和集群调度问题了。”
何凯明听着这个参数,脸上露出惊喜的表情,不过随即又有点遗憾的说:“显存感觉有点低啊,只有12G,目前来说是够用了,明年随着参数的指数级增加,可就不一定够用了。”
说完这句,何凯明以为成文飞会和自己一样感觉显存低,没想到的是他竟然露出一个笑容,然后小声的说道:
“凯明,现在显存小点不怕,反正这卡属于第一代,也是我们陆教授团队解决从成都到1的卡,未来可就不一定了。”
“哦?”何凯明也来了兴趣,追问道:“公司难道有什么新技术能大规模提高显存?”
“陈总给我透露了点,去年咱们无冬大师在硅片上打了一个世界上最光滑,最直的孔,目前化学研发中心,还有半导体工艺团队,正在全力攻坚这个孔。”
何凯明主要是做算法的,他对半导体工艺不是特别了解,有点路易十六挠头的继续问道:“硅片打孔?和咱们要的显存有啥关系。”
“哈哈,这你就不懂了吧?”成文飞组织了一下语言,用比较简单的话解释道:“有了这个孔,就可以把显存裸die像搭积木一样封装起来,走线就可以走在内部或者中介层,这样一颗显存颗粒内部,就可以封装N个裸片,而且因为是内部走线,延迟和漏电会非常低。”
“按照陆教授的推算,如果他们能解决后续的一些工艺问题,按照目前RC-1401单颗粒256M*16的规格,如果一个颗粒可以封装进去2GB的显存呢,那么24颗你算算是多少?”
“整整48G显存,而且是可以合并成统一地址空间的那种。”
(统一地址空间很重要哦,比如K80系列,说是24G,但只支持统一虚拟地址,不是统一地址空间,实际上是12G*2,跑训练只能跑12G。)
“至于再往后?”成文飞摊了摊手,有点向往的说:“可能单颗就封装8G,直接围在周围焊上特么的12颗或者24颗,一张卡就能顶我们现在好几个服务器!”
何凯明的呼吸也变得急促起来,牛逼,真牛逼。
算法上自己和成教授已经有了突破,硬件上红星也已经有了技术储备,那红星在人工智能的未来?
简直不可想象!
一张卡就能有近百G的显存,这样的卡未来得什么模型,什么网络才能完整的用光这么大显存啊。
反正总而言之,言而总之,自己来红星算是来对了!
一句话,此地旺我。