没有外出经营许可证肯定要在异地缴税。拿着完税证明到深圳税务局备案。

另：办个外出经营许可证很简单，为什么不办理？不办理的话工程款拨付的时候会很麻烦，在没有书面证明你已经完全把相关费用（例如民工结算等）结清的时候，银行也会冻结你的财产。

工程项目只要不在公司所在地区县以上级别区域内的，一般都是要在工程项目（包括劳务）所在地缴纳税款，并取得完税证明，之后到公司所在地报知当地税务部门。