O que é "overfitting"?

“Overfitting” significa que um modelo é excessivamente complexo e, como resultado, é pouco confiável para prever novos dados. Overfitting tende a acontecer quando há muitos Drivers em relação ao número de pontos de dados disponíveis. Por exemplo: você pode ter apenas 50 linhas de dados e 100 Drivers (colunas) no conjunto de dados. O modelo preditivo pode usar todos os Drivers para criar uma série de regras complicadas que funcionam bem contra os dados usados para treinar o modelo, quando na realidade a Métrica prevista pode ser influenciada por apenas um ou dois preditores. Como regra geral, mais simples é melhor. Quanto mais Drivers são introduzidos em um modelo, mais erro existe que pode potencialmente encobrir a verdadeira relação subjacente que você deseja descobrir.