Reduce Overfitting

一个合适的模型且方差较大则为过拟合，防止过拟合的方法

• 获取更多的训练数据，更多的数据就是更多的训练实例，然后使用更大的训练集、学习算法将学会拟合一个波动较小的函数

• 使用更少的特征 - 特征选择，选择最有用的特征，缩小模型特征规模

正则化以减少过拟合:保留所有功能，只阻止特征过大

通常只需要减少 $w_j$ 参数的大小，实践中，无论对b参数进行正则化都差别很小