やりたいことは計算順の優先度を変えたいということですよね。 計算式をいったん文字列化してINSTR()で"("と")"で囲まれた部分を探して取り出し先に計算して、変数に格納したあと元の場所に戻して残りの計算をしてやれば上手くいくのでは?