Eskişehir İktisadi ve Ticari İlimler Akademisi’nden mezun oldu. Öğrencilik yıllarında çeşitli gazetelerde muhabirlik, yazarlık, karikatüristlik ve yazı işleri müdürlüğü yaptı. Oda Tiyatrosunun ve onu Belediye Tiyatrosunun kuruluşunu sağladı. 1966 yılında Doktor, 1968 yılında Doçent oldu. Aynı yıl akademi Başkan Yardımcılığına getirilen Büyükerşen, 1973 yılında Profesörlüğe yükseltildi. 1976 yılında Eskişehir İktisadi ve İdari İlimler Akademisi Başkanlığına seçildi. Akademi’de TV verici istasyonu ile siyah-beyaz eğitim stüdyolarını, daha sonra da Türkiye’de ilk renkli TV sistemini Eskişehir’de kurdu. “Türkiye için Açıköğretim Modeli” projesi YÖK Kanunu ve 41 sayılı Kanun Hükmündeki Kararname ile Açıköğretim Fakültesi olarak ülke çapında uygulamaya konuldu. 1982 yılında Anadolu Üniversitesi Rektörlüğü’ne getirildi. Bu görevinin yanı sıra, “Radyo ve Televizyon Yüksek Kurulu” üyeliği ve kurulun 2 dönem Başkanlığını yaptı. Büyükerşen, kurucuları arasında yer aldığı Türkiye Eğitim Gönüllüleri Vakfı’nın Yönetim Kurulu Başkanlığını yapmış olup, bütün Türkiye’de “Çağdaş Halkevleri ve Köy Enstitüleri Modeli” diye nitelendirilen “Eğitim Parkları” ve “Semt Eğitim Birimleri”nin kuruluş çalışmalarını sürdürdü. 18 Nisan 1999 seçimlerinde DSP listesinden Eskişehir Büyükşehir Belediye Başkanlığına seçilen Büyükerşen, aynı zamanda Avrupa Komisyonu Yerel ve Bölgesel Yönetimler Kongresi Türk Delegasyonu Başkanlığına getirildi ve 2004 yılına kadar bu görevini sürdürdü. Prof. Dr. Yılmaz Büyükerşen’in Eskişehir’de yaşama geçirdiği projeler arasında kent içi ulaşımda raylı sistemin kurulması, Porsuk Çayı’nın çevre düzenlemeleriyle birlikte temizlenmesi, şehrin birçok bölgesinde parkların yapılması, Senfoni Orkestrası, Şehir Tiyatroları gibi sanat kurumlarının kurulması, şehrin yeni arıtma tesisleri ile birlikte altyapı eksiklerinin tamamlanması, su altı dünyası, bilim deney merkezi, uzay evi, masal şatosu, eğitim merkezleri gibi birçok yatırımın hizmete açılması, aralarında Yılmaz Büyükerşen Balmumu Heykeller Müzesi’nin de yer aldığı yeni müzelerin ve Canlı Tarih Sahnesi’nin kurulması gibi projeler yer almaktadır.