第二個階段是探索階段。出現了許多零零散散的做法以后，很多地方開始考慮如何使其更加科學化。在90年代初到90年代末這個階段，地方政府開始引入目標考核，即目標管理，把任務分解成具體的目標，然后督促考核下級政府或者單位，以此來推動工作。此外，還引入了老百姓和社會組織對政府的評議，比如檢查部門開展的行業作風的評議，即公眾對政府的評議。但實際上，這個階段還沒有出現績效管理這個概念。當時的學術界開始注意借鑒美國、英國的做法，并引入英文中績效管理的說法。
第三個階段是發展階段。地方的引入、探索使中央開始重視這一問題。在這一階段，一些地方政府，比如青島、廈門、甘肅等地，開始引入績效評估的概念。2005年到2008年，中央開始組織這方面的調研和研究。在出臺的官方文件中，首次出現了政府績效評估、績效管理的概念。最突出的標志是2008年十七屆二中全會的《關于深化行政管理體制改革的意見》中提出“推行政府績效管理和行政問責制度”。
第四個階段是高位推進階段，從2010年發展至今。中央政府不僅在文件當中提及了這一概念，還真正建立了領導體制和工作機制來推進這一項工作。中央政府成立了由監察部牽頭，共9個部們組成的部際聯合會議來推動這一工作。為了做好這件事情，中國采取了以往的經驗，首先進行了試點，選了六個省，兩個副省級城市和六個部委開展試點。據2012年8月的統計，全國已經有27個省、自治區、直轄市開展了績效管理，國務院有20多個部門開展了不同形式的績效管理。
