Wanneer u verschillende wetenschappelijke gegevenspunten in kaart brengt, wilt u misschien een best passende curve op uw punten passen met behulp van software. De curve komt echter niet exact overeen met uw gegevenspunten, en wanneer dit niet het geval is, wilt u misschien de root mean squared error (RMSE) berekenen om te bepalen in welke mate uw gegevenspunten afwijken van uw curve. Voor elk gegevenspunt berekent de RMSE-formule het verschil tussen de werkelijke waarde van het gegevenspunt en de waarde van het gegevenspunt op de best passende curve.
Zoek de overeenkomstige y-waarde op uw best passende curve voor elke waarde van x die overeenkomt met uw oorspronkelijke gegevenspunten.
Trek de werkelijke waarde van y af van de waarde van y op uw best passende curve, voor elk gegevenspunt dat u hebt. Het verschil tussen de werkelijke waarde van y en de waarde van y op uw best passende curve wordt de restwaarde genoemd. Vierkant elke rest en som je resten op.
Deel de som van uw residuen door het totale aantal gegevenspunten dat u hebt en neem de vierkantswortel van het quotiënt. Dit geeft de basisgemiddelde kwadratische fout.