第44章 两千万美元的缺口(5/10)
,叠好,放进衣柜最里面那格。
她又把那件被撕
的丝袜卷成一团扔进垃圾桶,把地上的黑色蕾丝丁字裤捡起来放在洗衣篮里。
她站在穿衣镜前,赤身
体,脖子上、锁骨上、
房上、大腿内侧全是
浅浅的红痕和牙印,左
内侧那个吻痕已经变成
红色,边缘微微发紫。
她的眼角有一点红——不是在厨房里那种需要水龙
掩盖的哭,是刚才在床上被他过于粗
的冲撞
出了几滴生理
的眼泪,现在泪痕已经
了,只在眼角留下极淡的痕迹。
她走到梳妆台前,从抽屉最底层拿出那个锁着的首饰盒——钥匙还藏在内衣抽屉的夹层里。
她打开盒子,珍珠项链、黄金蛇骨链、钻石流苏项链、水滴碎钻耳坠、老金手镯,全部安静地躺在
蓝色绒布上,在
灯下泛着各自的、冷清的光。
今天拍下的卡地亚满钻流苏项链还不在这个盒子里——拍卖行的结算流程需要几个工作
,周知远说下周会亲自送到她手上。
她伸手拿起那条珍珠项链,让珍珠在指间缓缓滑过,每一颗都还泛着温润的
色光泽,和她在玫瑰园里第一次戴上它时一模一样。
那天她觉得这条项链值很多钱。
现在它躺在这个盒子里,不过是一条五位数的小玩意儿,和那条一百二十六克拉的钻石流苏相比连零
都算不上。
但秋文需要的不是一条珍珠项链,甚至不是五百万的钻石。
是两千万。
她把项链放回盒子里,合上盖子,锁好,把钥匙藏回内衣抽屉夹层。
然后她回到床上,轻手轻脚地钻进被窝,从背后抱住秋文,把脸贴在他肩胛骨上。
她的
房贴着他的后背,
蹭过他肩胛骨之间那道凹陷,两条修长圆润的腿从背后贴上来,膝盖弯刚好卡在他的膝窝里。
她把手从他腰侧穿过去,握住他的手,十指扣紧,无名指上那枚铂金素圈贴着他无名指上同款的素圈,在黑暗中闪着极微弱的、几乎看不见的光。
***
第二天上午
阳光从窗帘缝隙里挤进来,在卧室地板上画了一道细长的金线。
已经是上午十点多了,秋文还躺在床上,被子只盖到腰际,露出赤
的胸
和肩膀上那几道昨晚留下的、已经变成淡红色的抓痕。
他的眼睛睁着,盯着天花板上那盏没开的吊灯,眼球上布着几条细细的血丝——不是没睡够,是醒了之后就再也没合过眼。
他的大脑从凌晨五点多就开始运转了。
先是把整个训练集群的硬件架构在脑子里过了一遍——gpu集群的拓扑结构、节点之间的通信带宽、显存带宽的利用率、数据加载管线的延迟瓶颈。
然后是算法层面:能不能通过模型剪枝把参数量压缩三分之一而不损失
度?
能不能用知识蒸馏的方式用大模型训练小模型,让小模型在特定任务上的表现
近大模型?
能不能把训练
度从fp32降到fp16甚至int8,牺牲一部分
度来换计算效率?
然后是存储结构:能不能用更激进的稀疏化存储方案把显存占用压下去?
能不能把部分计算卸载到cpu内存上,用更便宜的ddr5来替代hbm显存?
能不能自研一套更高效的分布式训练框架,把跨节点通信的开销从目前的百分之二十七压缩到百分之十五以下?
每一个方案在他的脑海里展开之后,都会在几步推理之内撞上一堵墙。
模型剪枝——已经剪过了,上一版模型已经剪掉了百分之十八的冗余参数,再剪就会损伤语义理解的核心能力。
知识蒸馏——小模型在一些复杂推理任务上的表现差了将近十个百分点,投资方不会接受一个降级的版本。
降低
度——int8在自然语言处理任务上的效果本来就不如视觉任务,他们在几个基准测试上跑过,bleu分数掉了将近两个点。
稀疏化存储——理论上有空间,但现有的国产芯片对稀疏矩阵运算的支持远不如英伟达的cusparse库,改造成本太高。
卸载到cpu内存——延迟会
增,训练一个epoch的时间可能从十几个小时变成好几天,进度更赶不上。
自研分布式框架——那至少需要半年的开发和调试周期,而下个月就要用钱了。
他把所有能想到的路都走了一遍,每一条都是死胡同。
这种感觉他并不陌生——小时候家里穷,他看着吴媚在厨房里对着账单发愁,自己却什么都做不了,只能趴在书桌上把数学题做了一遍又一遍,用那些他能控制的公式和定理来对冲那种什么都控制不了的无力感。
现在他已经是一家估值百亿的公司的首席科学家了,在中文语义理解这个领域里做到了全球前五,但此刻他躺在床上的感觉,和二十年前
本章未完,点击下一页继续阅读。