大歷十四年（779年）五月，唐代宗病逝于長安宮中。皇太子李適即位，時年三十八歲，即唐德宗。德宗年富力強以強明自任，他有意消除唐朝中后期藩鎮割據的混亂局面，即位之初就著手發動削藩戰爭，致使藩鎮將領矛盾激化，舉兵反叛，“二帝四王之亂”接連爆發。
建中二年（781年）平盧、淄青節度使李正己病死，其子李納秘而不發封鎖消息，自領軍政。八月始發喪，請襲父位，唐德宗不許，李納因此反叛朝廷。李納派手下將領高彥昭守濮陽，十月，李納攻打宋州（今河南商丘縣），并遣其將領王溫會同魏博節度使田悅手下將領信都承慶共攻徐州（治彭城，今江蘇徐州市），徐州刺史李淆率兵抵抗，朝廷命時任宣武節度使的劉玄佐與神策軍將領曲環增援李洧，大敗叛軍，同時打通東南漕運，史稱“唐擊李納徐州之戰”。
建中三年（782年），唐德宗命淮西節度使李希烈兼任平盧、淄青節度使，奉命征討割據淄青謀反的李納。但李希烈顧及自身利益考慮，不但按兵不動，反而與李納通謀，并與叛亂的河北藩鎮勾結。李納欲謀反時，曾想結交擁有重兵的宣武節度使劉玄佐。每當李納使者來此，玄佐皆“厚待之”，表面不露聲色，但對李納的不軌行為，早有察知，先有準備。后來李納果然反叛，劉玄佐圍李納于濮州(今山東鄄城〉，擊敗李納軍隊。李納見失敗已無可挽回，決定突圍，退回鄆州（今東平東北）。此前一直按兵不動的淮西節度使李希烈對朝廷假言討伐，其實暗中與李納私通，他心里明白自己就是下一個被討伐的對象。眼見李納已被劉玄佐擊敗，李希烈于是加緊了暗中準備，圖謀叛亂。而此時，身為宣武節度使的劉玄佐雖然手握宣武軍，對李希烈可能造反的意圖也有所察覺，并及時將獲取的情報上報朝廷。原本朝廷制訂的戰略是李希烈與劉玄佐合力進攻李納叛軍，但李希烈卻找各種理由推諉，按兵不動觀察形勢，暗地支持叛軍。明眼人都能看出來，李希烈已生異心，奈何李希烈身兼淮西、平盧和淄青三個地區的節度使，手握二十萬精銳部隊，實力非常強大。朝廷也是頗為忌憚，一面委派劉玄佐繼續監視李希烈的動向，一面采取安撫政策，意圖慢慢削弱李希烈的實力。
一年后，也就是建中四年（783年），大唐實力最強的節度使李希烈叛變，出軍攻擊汴州，自稱楚帝。由于之前宣武節度使劉玄佐已經做了準備，加上戰術得當，故拼死將李希烈擊退，汴州沒有落入叛軍手里。本是形勢好轉之際，而此時卻發生了一件誰也沒有想到石破天驚的突發事件，大唐的都城長安發生兵變，這就是改變唐朝歷史危害不下于安史之亂的“涇原兵變”事件。
涇原兵變發生之后，兵變叛軍隨即攻陷長安，唐德宗被迫離開長安倉皇而逃至奉天（今陜西乾縣），并被兵變叛軍包圍一月馀，史稱“奉天之難”。此時人心動搖，而李希烈趁機又不斷攻擊汴州，形勢萬分危急之際，豪爽忠君的宣武節度使劉玄佐率部殊死抗擊，屢次獲勝，拯救大唐于危難，受封為汴宋節度使。不久之后，涇原兵變得以平息，李希烈敗走。唐德宗回到長安，加封劉玄佐為陳州諸軍行營都統，特御賜姓名為劉玄佐，以示恩寵。同年，劉玄佐親自入朝進貢，再次被加封為涇原四鎮北庭等道兵馬副元帥，檢校司空，實封八百戶。
唐貞元八年（792），劉玄佐死于任上，時年58歲，追贈太傅，謚號壯武。