“不过未来太远，半导体的工艺指不定什么时候才能突破，还是看眼前吧，等RC-1401到了，咱们前期也不需要贪多求全，可以先搭建几个小型算力集群。”
“不需要特别多，单台服务器最多插满12张算力卡，咱们先建设四到五个这样的高密度节点组成一个集群，同时用来跑大批量的消融对照实验，足够应付今年下半年的研发需求了。”
何凯明深有同感的点了点头，“确实，步子迈太大容易扯着蛋，卡太多的话通信拓扑一乱全得趴窝。”
“四五个12卡节点组成一个集群，然后建设三四个集群的话，算力就非常充裕了！我觉得除了跑视觉的残差消融实验，我们还应该匀出一部分算力，同步进行小规模的早期RNN和LSTM序列建模实验！既然咱们刚才聊到了语音交互和记忆状态问题，现在就得提前为后面的序列建模和自然语言处理做技术铺垫了！”
成文飞停下脚步，低头沉思了片刻。
如果既要跑完整的大规模ImageNet子集训练，又要做序列建模探索，那现有的机器分配还得再精细化切分一下。
最好是在这四五个主力训练节点之外，再单独留出一个集群，不用跑长期任务。
专门留给底层工程师做自定义算子调试，以及FP16半精度与FP32单精度混合训练的数值稳定性对照实验！
毕竟要是能把半精度训练给跑通，显存占用直接砍半，计算吞吐量翻倍，那半导体部门搞出来的这批算力卡就能发挥出两倍的战斗力！
可是这么一盘算下来，新的问题又摆在了眼前。
人手根本不够用啊！
现在AI实验室里招进来的，全都是像何凯明这样搞数学建模、发顶会论文的算法天才。
让他们用现成的Caffe或者TheanO框架改改网络结构还行，要是真让他们钻进LinUX内核底层去写硬件驱动、去抠汇编指令集的寄存器分配，那纯属浪费！
“凯明，光有陆教授的算力芯片，光有咱们的残差算法，这中间还缺了一座最关键的桥啊。”
成文飞指了指桌上的电脑主机，神色凝重地说道：“英伟达为什么能在海外学术界一家独大？不仅仅是因为他们的GPU流处理器多，更因为他们从几年前就开始拼命砸钱搞CUDA生态！如果咱们红星自己的算力卡拿回来，每次写个新算法都要算法工程师自己去手搓底层硬件通信代码，那这卡造出来也没人愿意用！”
“我们必须在集团内部，立刻成立一个专门的‘红星计算架构组’！”
“我们需要一帮既懂计算机体系结构、又懂编译原理的人，专门为我们自研的算力卡编写硬件驱动层、开发专用的编译器与编程语言扩展、封装高效的基础数学算子库，以及针对卷积、池化、残差连接做极致优化的深度学习专用算子库。”
“这部分牵扯到跨部门的编制抽调、数亿的研发经费审批，还包括整套计算生态的命名与保密规划，凭咱们人工智能实验室可搞不定，必须立刻去和陈总当面沟通一下！”
听到要成立专门服务于AI算力的底层架构开发组，何凯明双手赞成：“要是有专门的底层团队帮我们把算子库和分布式通信全给封装好，我们算法组至少能省下一半的头发！”
成文飞摸了摸自己还算茂密的头发，再看看刚30岁头发已经有点开始稀疏的何凯明，嗯，能省点头发确实很重要。
成文飞看了一眼手表，当即拍板：“咱们现在就回办公室起草一份阶段性总结与立项申请报告，汇报一下最近的残差网络成果，还有我们对集群建设和底层计算架构组的需求，有困难找陈总嘛。”
“没问题，我这就去写！”
回到办公室后，何凯明二话不说就开始起草，不到一个小时，他就写好了一份长达五页的阶段性成果与立项申请。
成文飞凑过去看了一眼，顿时有些哭笑不得，因为他开头是这么写的：
【基于深度卷积神经网络在L层非线性映射H(X)拟合过程中的海森矩阵病态条件与梯度弥散现象，本实验室提出了一种基于恒等快捷连接的显式残差函数F(X):=H(X)-X重构范式……为进一步实现异构多核张量计算阵列在非凸优化流形上的同步随机梯度下降收敛，亟需构建具备拓扑通信原语与编译期静态图算子融合能力的底层运行时系统……】
成文飞盯着这段话足足看了10坤秒，默默地抬起手，揉了揉发胀的太阳穴。
“凯明啊……”
“在呢成教授！是不是哪个公式的上下标我敲错了？”
“公式没敲错。”成文飞深吸了一口气，指着屏幕苦口婆心地说道，“但你这份报告是写给咱们陈总批经费看的，不是投给审稿人装逼看的！陈总每天那么多事情，你拿这么一坨报告递过去，你是生怕陈总看懂了痛快给钱是吧？”
何凯明尴尬地摸了摸鼻子：“呃……陈总不是连手机芯片架构和人工智能前沿研发都懂嘛，这点基础数学黑话陈总肯定……”
“肯定个p，陈总是商业统帅，他懂个锤子的技术。”