角度を変えるとX,Y座標とかも角度が変わるんですか？

＃日本語が難しい^^; スプライトやBGには、原点X,原点Yというのを指定することができるようになっていて(何も指定していなければ0,0)、この座標が色々な動作の基準になっています。 例えば16×16のサイズのスプライトをSPROTで回転させる場合、原点X,原点Yを指定していなければ0,0のままで、これは16×16の左上の角が基準の座標になっていて、ここを中心に回転します。スプライトの真ん中を中心に回転させたい時は原点X,原点Yを8,8とかにします。 この原点X,原点YはSPHOMEやBGHOMEなどで指定することができます。

回転させるとX軸とかY軸も回転するんですか？

＃やはり日本語難しい^^; 原点X,原点Y以外が動きます。 画面に垂直に立てた棒を仮にZ軸とすると、その棒が原点X,原点Yに立っていれば、棒を中心にX軸、Y軸が回転する、ということでしょう。

スプライトでは、軸そのものは回転しません。 試しに、スプライトのキャラが回転しながら移動するプログラムを作ってみれば分かります。 回転角に合わせて移動の角度も変わるようにするには、簡単な三角関数を使えばできます。

BGレイヤーを回転させた場合は軸も回転しますか？

＃何の軸なのか確認せずにコメントしても ＃アカンかったねぇ。反省。 スプライトもBGも、回転させても画面上の表示位置を示す座標の軸は回転しません。垂直なままです。 例えばスプライトを45度傾けた後、SPOFSでX値を+100した場合、斜め45度に移動するのではなく、水平に右に移動します。BGも同じです。

回転させたBGの座標軸に合わせてスプライトを動かしたい場合は、BGCOORDっていうのを使えば楽かもしれません。 使ったこと無いので詳しいこと分からないのですが、[SYS]のTECHDEMOだったかにサンプルあったはずです。