冷静に考えると、(X,Y)が(1,2)のとき、(2,4)のとき、(-1,-2)のときは、TANの値は同じになります。つまり、同じTANの値になるX,Yの組み合わせがいくつもあるわけで、X,Yを一意に求めるには、TANは適切ではありません。
X,Yの値を求めるのが目的であれば、次のようなDEFを作るとよいかも。
この場合、原点から(X,Y)までの方位角A(ATANで求められる値)以外に、原点から(X,Y)までの距離R(Xの2乗とYの2乗を足したものの平方根)が必要になります。
DEF POSVEC A,R OUT X,Y
X=R*COS(A):Y=R*SIN(A)
END