不久，薛岳得知第1师将被调离上海后，曾亲自赶到上海的中共中央委员会，建议将蒋介石抓起来，以免遭其毒手。但是中共中央没有同意，而是建议薛岳装病以拖延时间。结果，薛岳的第1师于4月5日被调到京沪线护路，薛岳被免职。
随后，蒋介石在上海发动了“四·一二”清共。
拥蒋反蒋，“剿共”抗战获起用
1. 反蒋屡反屡败
从1928年到1932年间，国民党内部派系尚未协调，各地方实力派相互混战，各方面军人的互相离合变化尤为突出，薛岳也不例外。
被解职后的薛岳南下广东，先是投靠第4军军长李济深，任广东新编第2师师长，埋头练兵。
1927年11月，张发奎、黄琪翔等人在广州发动政变，迫使李济深离职，夺去了李济深的军政大权，张发奎出任军事委员会主席，将粤境军队重新整编。薛岳又投靠张发奎，所部新编第2师被改编为第4军教导第1师，薛岳仍任师长，随后除其中一个团驻扎于广州西村陈家祠外，其余被调往江门驻防。
12月，共产党在广州发动起义，薛岳奉张发奎之命，率部赴广州参加镇压，升任第4军副军长。与此同时，李济深联合桂系黄绍竑部进攻广州，张发奎、黄琪翔兵败辞职，出走香港，薛岳与第4军军长缪培南率部北上，投靠蒋介石。