Durch das Durchführen vieler Lernexperimente mit derselben Modellarchitektur und unterschiedlichen Datensätzen können wir fundierte statistische Argumente über die Leistung des Modellierungsansatzes anstellen. Kreuzvalidierung ist eine Technik, um viele Experimente mit einem kleinen Datensatz durchzuführen.