1975 yılında Kars'ta doğdu. 1998 yılında Ankara Üniversitesi Siyasal Bilgiler Fakültesi İşletme Bölümünden mezun oldu. Yüksek Lisansını Gazi Üniversitesi Kamu Maliyesi ve Mali Hukuk alanında yaptı. Ankara Üniversitesi Siyasal Bilgiler Fakültesi Kamu Ekonomisi ana bilim dalında doktorasını tamamlamış olan  Yılmaz, tez çalışmasını "Sağlık Harcamalarındaki Genişlemenin Olası Belirleyicilerinin Karşılaştırmalı Analizi" üzerine yapmış olup iyi derecede İngilizce bilmektedir, evli ve 3 çocuk babasıdır.

1998 yılında Kredi Garanti Fonu AŞ’de Finansal Analist olarak iş hayatına başlayan Yılmaz, daha sonra Dışbank A.Ş de müfettişi ve İç Anadolu Bölgesi İç Kontrol Yöneticisi olarak devam etti.

Dünya Bankasının Sosyal Riski Azaltma Programı (SRAP), İstanbul Sismik Riskin Azaltılması ve Acil Durum Hazırlık Kapasitesinin Arttırılması projesinde (İSMEP) yöneticilik yapan Yılmaz, Türkiye’nin yakın dönemde gerçekleştiği en büyük dönüşüm programı olan sağlık ve emeklilik sisteminin yapısal olarak tamamen dönüştüğü Sağlıkta Dönüşüm ve Sosyal Güvenlik Reformu Projesinin Direktörlüğünü yaptı.

2012 yılında Çalışma ve Sosyal Güvenlik Bakanlığı müşavirliği görevinde, 2012-2013 yılları arasında yönetim danışmanlığı alanında faaliyet gösteren uluslararası bir danışmanlık grubu olan HD Consulting Grup’un ülke direktörlüğünü yürüttü; aynı dönemde yönetim danışmanlığı, özel sektörde üstü düzey yöneticilik ile icra kurulu üyeliklerinde bulundu.

Ağustos 2013 yılında Yeşilay Cemiyeti Kurucu Genel Müdürü olarak göreve başlamış olup 2018 yılına kadar devam etmiştir. Görev süresince kuruluş profesyonel bir yönetime kavuşmuş, fiziki-beşerî kapasite, içerik ve finansal büyüklük anlamında yerelde ve globalde alanında en önemli aktör olmuştur.

Mesleki Yeterlilik Belgesi, yönetim danışmanlığı ve topraksız tarım alanında faaliyetleri olan kurucusu olduğu şirkette yönetici ortak olarak çalışmalarına devam etmektedir.

2022 yılında faaliyete geçen yolcu beraberinde ihracat kapsamındaki vergi iadelerine aracılık eden Joy Refund Vergi İade Aracılık Hizmetleri A.Ş firmasının Yönetim Kurulu Başkanı'dır. 
İstanbul Ticaret Üniversitesi'nde “Sağlık Politikaları“ alanında yarı zamanlı öğretim görevlisi olarak da görev yapmaktadır.

MÜSİAD 26. Olağan Genel Kurulu ve ardından 27. Olağan Genel Kurulu'nda Yönetim Kurulu Üyesi olarak seçilen Yılmaz, Eğitim, Kültür ve Yayınlar Komisyonu Başkanlığı görevine getirilmiştir.