L1正则化和L2正则化是控制模型复杂度和限制过拟合的常用方法。L1正则化和L2正则化之间有一些有趣的比较。我发现这些视觉上的对比和它们的解释很容易理解。
1. 为什么需要正则化？
首先，让我们以线性回归为例。假设Y和一大堆其他Factor之间的关系不清楚，因子1、因子2、因子3……，我们不知道这些因素中哪些会影响Y，但我们想预测Y，我们决定使用线性回归来近似Y。
上一篇
刷爆3路榜单，信息抽取冠军方案分享：嵌套NER+关系抽取+实体标准化
本篇文章，JayJay并不想只是围绕竞赛本身谈策略，而是想和大家一起交流：无论在竞赛还是落地中，信息抽取任务的稳定提升策略有哪些？总的来看就是两点：
构建一个强大的baseline，这取决于标注框架的选择；
套路化的辅助策略，稳定迭代并提
2021-03-25
下一篇
Animated RNN, LSTM and GRU
RNN是
Vanilla RNN
$t$——time step
$X$——input
$h$——hidden state
length of $X$ —size/dimension of input
length of $h$ — no
2021-03-22