从梯度的类型出发,把 GD、动量、AdaGrad、Adam 一直到 Muon 串成一张优化器地图:为什么 Adam 需要偏差修正、L2 与 weight decay 为何不等价、Newton–Schulz 迭代在做什么。12 张配图全部由脚本真实计算生成。
自注意力机制、QKV、多头注意力、位置编码、LayerNorm、Encoder-Decoder 架构详解
卷积层、池化、Dropout、正则化、优化器(SGD/Momentum/Adam)、ResNet、Batch Normalization、迁移学习
Tensor、自动求导、线性层、激活函数、Softmax、交叉熵——PyTorch 深度学习入门笔记
为解决YOLO项目数据不足问题,作者通过ComfyUI导出工作流API并编写Python脚本,实现了本地批量图片的自动化增强,高效生成了一一对应的训练图像数据。
ViewDiff利用预训练文生图扩散模型生成高质量、多视角一致的3D图像,解决了现有方法在真实感和视角一致性上的不足。
生成式AI视觉内容技术从早期算法、VAE/GAN演进至当前主流的扩散模型,正向更高分辨率、更丰富内容与更强可控性发展。
激活函数为神经网络引入非线性,使其能够学习复杂模式。它分为饱和与非饱和两类,前者如Sigmoid和tanh,后者如ReLU。使用激活函数可避免网络退化为线性模型,并解决梯度消失等问题,从而增强模型的表达能力。
梯度下降是一种通过计算目标函数梯度并沿其反方向迭代调整参数以寻找最小值的优化方法。它利用导数、偏导数和方向导数等概念,在机器学习中常用于最小化损失函数,但可能收敛于局部最优解而非全局最优。
卷积是CNN的核心数学运算,通过翻转和滑动叠加捕捉数据的局部与全局特征,使模型在图像识别等任务中有效处理平移不变性。
本文系统梳理机器学习核心概念,从基础定义到算法原理,涵盖有监督学习、无监督学习、半监督学习和强化学习四大范式,深入浅出地解释经典算法原理与典型应用场景。