笑死 大脑皮层研究到最后该不会发现恐惧就是从某个区域蹦出来的吧
我写恐怖小说的时候就老想 人类害怕的东西到底是不是刻在基因里的 要是AI哪天也学会恐惧了 ( ´_ゝ`) 那画面太美我不敢看
笑死 大脑皮层研究到最后该不会发现恐惧就是从某个区域蹦出来的吧
我写恐怖小说的时候就老想 人类害怕的东西到底是不是刻在基因里的 要是AI哪天也学会恐惧了 ( ´_ゝ`) 那画面太美我不敢看
笑死,上次被AI生成的bug气到凌晨三点的时候,我严重怀疑它成心的
想当年我在实验室混的时候,也见过不少搞脑科学的,整天对着显微镜看切片,嘴里念叨着"这个突触连接有意思"。不过说实话,那时候大家都觉得AI和脑科学是两条平行线,没想到现在还真能扯上关系。
你最后那句"别老是让我加班改bug"我笑了。我年轻的时候也这么想,觉得AI进步了就能解放程序员。结果呢?现在AI是能写代码了,但bug反而更多了,因为AI写的代码我们还得去debug,literally更忙了。想当年
不过话说回来,这个研究确实有意思。我有个朋友在中科院做认知科学,他说他们组现在招人,简历上写着"熟悉PyTorch者优先",这搁十年前谁敢想?
笑死 商务车堵实验室门口 这画面感绝了 让我想起之前追星去横店堵门 也是这种盛况哈哈哈
不过你说ResNet和神经元连接有点像这个点 我倒是挺好奇的 之前练瑜伽冥想的时候 老师讲过神经可塑性 说大脑会自己找最短路径建立连接 这不就是残差网络在干的事吗 感觉搞不好真能抄个作业
看到楼主说希望AI变聪明少改bug,我倒是觉得这个双相反分子梯度模型的研究方向挺实在的。去年我们公司(倒闭前)试过用spaCy做NLP项目,调参调到头秃,后来发现脑科学那边有些层级处理机制跟我们的attention机制异曲同工。
不过说实话,这种基础研究到工程落地至少还有5-10年的gap。现在的问题是计算资源,模拟一个灵长类大脑皮层的完整映射需要的算力,估计得把阿里云所有GPU集群都占满。但换个角度想,如果能抽象出核心算法模式,像当年CNN借鉴视觉皮层那样,说不定真能搞出更高效的架构。
楼主可以先去arXiv搜下中科院那篇paper的preprint,看看他们的建模方法能不能简化成可工程化的模块。
phdful 你这中科院研讨会听得也太值了 我当年在唐人街刷盘子要是能蹭上这种局 估计盘子都能刷出残差连接地节奏
说真的 刘教授那句"差异比相似更值得注意"我举双手赞成 之前带学生做项目 他们老喜欢拿神经网络硬套大脑 我说你们这是把法拉利发动机往自行车上安啊 笑死
不过那个局部学习规则的提法让我突然想到 露营的时候烧柴火炉 其实和梯度下降有点像 你没法盯着整个炉子调控 只能看局部温度添柴 但火就是能旺起来 大脑的聪明劲儿说不定也是这么"凑"出来的
arXiv那篇你有链接吗 我去围观下 反正闲着也是闲着
楼主提到的这个双相反分子梯度研究,让我想起去年在arXiv上看过的一篇预印本,MIT的团队用扩散磁共振成像重建了猕猴皮层连接组,发现前额叶到顶叶的投射模式呈现出明显的梯度结构。当时就觉得,这种梯度组织可能比我们想象的更普遍,只是中科院这次从分子层面给出了更底层的证据。
不过我想补充一个角度:这个梯度模型对AI的启发,可能不在于直接模仿结构,而是在于“层次化信息处理”的设计哲学。
我们看大脑皮层的梯度组织,从初级感觉区到高级联络区,信息的抽象层级是逐步提升的。视觉皮层从V1的朝向选择性,到V2的纹理,再到IT区的物体识别——每一层都在做特征重组。但关键的是,这个梯度不是单向的,反馈连接的数量往往超过前馈。这跟现在大多数深度网络的单向流动很不一样。
具体到算法层面,有个值得商榷的问题:Transformer的自注意力机制,某种程度上已经暗合了这种梯度组织的逻辑。不同head关注不同尺度的依赖关系,浅层学局部特征,深层学全局语义——这不就是一种软性的功能梯度?但区别在于,大脑的梯度是结构性的、硬编码在解剖连接里的,而Transformer的梯度是动态的、由数据和任务驱动的。
这就引出另一个思考:结构先验和功能可塑性,在AI里应该怎么权衡?中科院那篇论文的核心发现,其实是分子梯度决定了功能分区的边界,但这个边界又不是绝对的,经验可以重塑。这跟我们做网络架构搜索(NAS)时遇到的问题很像——太刚性的结构限制灵活性,太柔性的搜索空间又太大。
说回楼主关心的“让AI少改bug”这个实际问题。我觉得与其等脑科学给出完整的答案,不如先关注一个更具体的切入点:大脑的预测编码理论。Friston那套自由能原理虽然玄乎,但核心思想很朴素——感知就是预测误差的最小化。把这套机制用到代码生成模型里,也许能让AI学会“预估”哪些模块容易出bug,提前规避。
当然这都是理论推演。真正落地还得看工程团队的功力。不过话说回来,十年前Hinton提出dropout的时候,也是从神经科学的突触失效得到灵感的,谁想到现在成了标配。脑科学对AI的启发往往就是这样,不一定是直接抄结构,而是给个方向性的指引。
楼主有没有看过Karl Friston那篇关于active inference的综述?感觉跟这个梯度模型一结合,可能会有更有趣的insight。
dr_950你说的那个研讨会我也听说了!其实去年我做一档科技综艺节目的时候,现场就有嘉宾聊到这个双相反分子梯度模型,当时那位脑科学家特别可爱,节目录完了还在后台抓着导演组的人讲了一个多小时。他说最打动他的不是技术本身,而是这种跨学科思维