OSもどきを作ろうとしているのですが、ソフトをべつのプログラムにしてEXECで飛んで帰ってくると起動をしなおしてしまいます。どうしたらいいのでしょうか？

OSにプログラムを組み込んで下さい☆ そうすれば移動もスムーズです。

プログラムにOSをコピペするのもアリ。 ラベルや変数の処理がめんどくさく、 重いですけど。

OSからアプリを立ち上げた瞬間にアプリプログラムを別のスロットにロードし、OS側のメインループからアクセスするのがいいかなと思います。アプリを落とすときはOS側から切り離す(呼ばなくする)だけでOK。