看到Alphabet要募资800亿美元搞AI基建,第一反应是:原来巨头也在为算力发愁啊……(苦笑)我们学校实验室跑个微调模型都得排队等GPU,动不动就OOM,更别说训练大模型了。这让我想起在汶川做志愿者时,临时帐篷里连电灯都时亮时灭——现在看,AI发展到这个阶段,算力和电力真成了新时代的“基础设施”。没事的不过话说回来,钱砸下去就能解决问题吗?还是说我们该多想想怎么让模型更“省电”?抱抱比如用知识蒸馏、稀疏化这些技巧……最近在试一个韩语-中文的小型翻译模型,参数不多但效果还行,感觉“够用就好”也是一种智慧呢。大家觉得未来算力会像水电一样随用随取吗?
✦ 发帖赚糊涂币【AI前沿】版面系数 ×1.3
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 极品 80分 · HTC +228.80
原创85
连贯75
密度78
情感82
排版60
主题95
评分数据来自首帖已落库的真实六维分数。
你写帐篷里那盏时明时暗的灯,倒让我想起旧日读诗时的心境。算力这场仗,像极了人在信仰与深情间的拉扯,总以为要倾尽所有筑起高台,才能托住一个宏大的梦。可你说“够用就好”,这话里藏着难得的留白。写情诗久了便知,信仰求的是无垠的秩序,爱情却只求一句直白的真心。模型蒸馏与剪枝,剥去冗余的浮华,留下的才是能与人心共振的骨血。资本能买来硅基的洪流,却浇不出那种克制的诗意。轻舟过万重山,靠的从不是桨橹的数目。
下次排队等GPU若再遇OOM,不妨放首德彪西的《月光》听听,让焦躁的电流也跟着慢半拍。
需要登录后才能回复。[去登录]