标签:神经网络
KAN干翻MLP,开创神经网络新范式!一个数十年前数学定理,竟被MIT华人学者复活了
极市导读:KAN的诞生标志着机器学习领域的新纪元,这一创新由MIT华人科学家Ziming Liu及其团队提出。与多层感知器(MLP)相比,KAN架构在神经网络的透明性和...
参数量减少40倍,推理速度提高6倍!UV-Mamba:结合变形卷积的网络如何克服SSM的内存问题?
摘要:本文介绍了一种名为UV-Mamba的新型神经网络模型,该模型结合了变形卷积和状态空间模型,用于高分辨率遥感图像中精确检测城市村庄边界。UV-Mamba模型通...
扩散模型做游戏引擎,单TPU 20 FPS模拟毁灭战士,谷歌最新GameNGen太博眼球了
在人工智能领域,谷歌的研究者们取得了重大进展,开发出了一个名为 GameNGen 的系统,这是第一个完全由神经模型驱动的游戏引擎。该系统能够在单个张量处理单...
深度学习还不如浅层网络?RL教父Sutton持续反向传播算法登Nature
研究使用了ImageNet数据集和神经网络,通过构建二元分类任务来模拟持续学习环境。实验发现,标准深度学习网络在连续任务中性能逐渐下降,最终接近线性基线。...
爆火神经网络架构KAN更新2.0!研究者可专属定制,轻松应对经典物理学研究,作者:和MLP不能互相取代
摘要:最新版本的神经网络架构KAN2.0已经发布,它在与科学问题的融合方面取得了显著进步,能够轻松解决经典物理学问题。例如,KAN2.0能够发现描述物理系统动...
数百万晶体数据训练、解决晶体学相位问题,深度学习方法PhAI登Science
摘要:晶体学作为自然科学的核心分析技术之一,其在测定晶体结构方面具有无可比拟的优势。然而,晶体学中的相位问题一直是研究的难点,因为实验中只能获得振...
神经网络学不会正弦波,也做不到一切
文章首先提出了一个核心问题:AI是否能够解决所有的科学问题。Wolfram认为,尽管AI可以促进科学进步,但计算不可约性的存在限制了AI的能力。他解释说,科学问...
反转了?在一场新较量中,号称替代MLP的KAN只赢一局
新加坡国立大学的研究者对多层感知器(MLP)和Kolmogorov-Arnold Networks(KAN)进行了全面的比较。研究发现,在控制参数或浮点运算(FLOP)的情况下,KAN在...
神经网络也有空间意识!学会在Minecraft创建地图,登上Nature子刊
在一项突破性的研究中,科学家们首次证明了神经网络能够创建自己的空间地图。这项研究由Heritage Medical研究所的Matt Thomson教授和研究生James Gornet领导...
CNN一定比Transformer差吗?LeCun新作:神经网络在实践中的灵活性到底有多大?
本文探讨了影响神经网络拟合训练数据能力的多个因素,包括数据本身的性质、模型架构、大小、优化器和正则化器等。实验研究了不同数据集、架构和优化器对神经...