با سلام
یک قسمتی از دیتاست رو جدا میکنن برای validation تا در حین آموزش شبکه ببینند آیا خطای شبکه روی دیتایی که حین آموزش ندیده داره کم میشه یا نه
اگه خطای validation شروع کنه به زیاد شدن نشون میده شبکه داره overfit میشه برای همین آموزش رو متوقف میکنن
توضیح بیشتر اینجا و اینجا
خطا هر چی کمتر باشه قاعدتا بهتره ولی بسته به مسئله خطا تعریف میشه و یک عدد و معیار ثابت نداره ولی به طور کلی همیشه خطای آموزش از خطای validation کمتر هست.
for each epoch
for each training data instance
propagate error through the network
adjust the weights
calculate the accuracy over training data
for each validation data instance
calculate the accuracy over the validation data
if the threshold validation accuracy is met
exit training
else
continue training