OSもどきの拡張を行いたいのですが、スパゲッティ状態なので、核を作り直そうかと思っています。 今のを拡張するか、新規に作り直すか、どちらにしますか？

ぐちゃぐちゃなら新規がいいんじゃない

一度作った経験を踏まえて仕様書作ってから新規に作り直してみるとか。