西瓜书机器学习第五章——神经网络

一、词汇积累

neural networks 神经网络

neuron /nuit 神经元

threshold/bias 阈值

activation function 激活函数

squashing function 挤压函数

preceptron 感知机

threshold logic unit 阈值逻辑单元

dummy node 哑结点

learning rate 学习率

functional neuron 功能神经元

linearly separable 线性可分

converge 收敛

fuctuation 振荡

hidden layer 隐层/隐含层

multi-layer feedforward neural networks 多层前馈神经网络

connection weight 连接权

error backpropagatiom(BP）误逆差传播算法

gradient descent 梯度下降

accumulated error backpropagation 积累误差逆传播

one round/ one epoch 一轮

stochastic gradient descent(SGD）随机梯度下降

trial-by-error 试错法

early stopping 早停

regularization 正则化

local minimum 局部极小

global minimum 全局最小

simulated annealing 模拟退火

genetic algorithms 遗传算法

radial basis function (RBF) 径向基函数

competitive learning 竞争型学习

adaptive resonance theory 自适应谐振理论

batch-mode 批模式

self-organizing featuremap 自组织特征映射

stability-plasticity dilemma 可塑性-稳定性窘境

incremental learning 增量学习

online learning 在线学习

self-organizing map 自组织映射

cascade-correlation 级联相关

correlation 相关性

constructive 构造性

recurrent/recursive nenural networks 递归神经网络

energy 能量

energy-based model 基于能量的模型

equilibrium 平衡态

stationary distribution 平稳分布

contrastive divergence(CD)对比散度

capacity 容量

deep learning 深度学习

diverge 发散

unsupervised layer-wise training 无监督逐层训练

pre-training 预训练

finetuning 微调

deep belif network(DBN) 深度信念网络

weight sharing 权共享

convolutional neural network(CNN）卷积神经网络

feature map 特征映射

pooling汇合

feature learning 特征学习

representation learning 表示学习

feature engineering 特征工程

evolutionary computation 演化计算

trick 窍门