プチコン3号では表示の際に小数第9位が四捨五入されるため絶対値が9e-5未満の数は0として表示されます。 しかし、-2.4492935982947064e-16は負数であるため先頭のマイナスの符号が付いたままの状態となっているわけです。 TAN(RAD(270))がinfやエラーにならずおかしな数になっているのはこの小数を含む数値の演算誤差が理由です。 というわけで、プチコン3号で正確な値を表示する場合にはPSTR$を使うと非常に便利なのでぜひお試しください！