線を挟んでどちら側にあるかを知りたい（相対角度が0～180度か0～ｰ180度かを知りたい）場合はベクトルの外積、相対角度が鈍角か鋭角かを知りたい場合はベクトルの内積、絶対角度を求めたい場合はATANという感じで使い分けると良いと思います。 単純に座標の大小比較だけで判断しても縦横判定は可能なのですが、難しいのは角の付近にボールがある場合です。 そういう場合でもベクトルの外積を使えばどちら側にあるのかが分かるということです。 坂道のように基準とする直線を一次関数として考えて座標を元に傾きや切片を求めるとベクトルの外積を使わなくても判定は可能になります。 こんな感じで正解は1つではなく無数にあるわけです。