That being said = ということで、とは言うけれど
That being said は前述の内容に対して追加の情報や対照的な情報を加えるときに便利な表現
I understand your point. That being said, I still think we should consider other options.
(あなたの意見は理解します。その上で、他の選択肢も考えるべきだと思います。)
よく使われる代替表現
「That being said」:
これは非常に一般的で、「それが言われた上で」という意