GOSUB や DEF は、 「（RETURN なりEND なりに到着したら、元の場所に戻らないといけないから）どこから呼び出されたか」 を覚える必要があるのです。 そして覚える為にはメモリが必要ですが、当然そのメモリは無限にあるわけではないので、ある程度以上はメモリ不足になります。