NaNは"Not a Number"の略、つまり「数字じゃない」ということです。 例えば、inf/inf(無限/無限)を計算したりするとNaNになります。