GOSUBはGOTOと違って「RETURNでどこに戻るか」という情報を記録しておく必要があります。これはスタックメモリ上に記録されますが、プチコン3号のではメインメモリとは別の場所に確保されています。 このスタックメモリはRETURNで戻るたびに解放されますがRETURNがない状態だとどんどん減ってきます。そして、スタックメモリが無くなってそれ以降の続行が不可能になった時点でStack overflowエラーとなるわけです。 ちなみにプチコン3号のスタックメモリはGOSUBだと16383回分確保されています。