25 Haziran 1961'de Ordu Aybastı'da doğdu. Bakû Odlar Yurdu Üniversitesi İktisat Bölümü'nü bitirdi. Uzun yıllar Fransa'da ticaretle uğraşan Ayhan YILMAZ değişik sivil toplum kuruluşlarında Başkan olarak görev aldı. Enerji ve Tabiî Kaynaklar Bakanlığı'nda Bakan Danışmanlığı görevinde bulunan ve Türkiye Büyük Millet Meclisi 23. Dönem Ordu Milletvekili olan Ayhan Yılmaz, çok iyi düzeyde Fransızca bilmektedir.
Ayhan YILMAZ Denge Yatırım Holding A.Ş. Yönetim Kurulu’na 2012 yılı Şubat ayında katılmıştır.