Taner Yıldız, 3 Nisan 1962 tarihinde Yozgat'ta dünyaya geldi. Babasının mesleğinden dolayı 10 yıl Balıkesir'de yaşamıştır. Kayseri Lisesi'nden mezun oldu. İstanbul Teknik Üniversitesi Elektrik-Elektronik Fakültesi Elektrik Mühendisliği Bölümü'nü bitirdi. Gençlik ve lise yıllarında Millî Türk Talebe Birliği üyesi olmuştur.
Necip Fazıl Kısakürek'in hayranıdır. İstanbul’da Teknik Üniversite’yi kazanınca da irtibatı koparmadı. Okul çıkışları, hafta sonları, ikinci adresi Necip Fazıl’ın ‘Büyük Doğu’ dergisiydi. Sohbetlerini dinlemekle yetinmedi bir de görev üstlendi: “1979-1982 yılları arasında üç yıl boyunca Kısakürek'in çaycılığını yaptı.
Kayseri Elektrik Üretim Şirketi'nin Yönetim Kurulu Üyesi, Kayseri ve Civarı Elektrik TAŞ'nin Yönetim Kurulu Üyesi ve Genel Müdürü olarak görev yaptı.
2002 genel seçimlerinde AK Parti'den Kayseri milletvekili adayı oldu, 22. Dönem'de TBMM'ye girdi. Başbakan Erdoğan'ın enerji danışmanlığı görevini yürüttü.
1 Mayıs 2009'da 60. Hükümet'te gerçekleşen kabine değişikliği sonucu Enerji ve Tabii Kaynaklar Bakanlığı görevini Mehmet Hilmi Güler'den devraldı. 61., 62., ve 63. Hükûmet'te de Enerji ve Tabii Kaynaklar Bakanlığı görevine devam etti.
Yıldız, 1 Aralık 2009 tarihinde hükûmetin nükleer santral projesine karşı yaptığı eylemlerle kamuoyu gündemine sık sık gelen Greenpeace'in Akdeniz ofisini ziyaret etti. Kendisine Nükleer ile Yaşamaya Hazır mısınız? şeklinde bir tişört de hediye edilen Yıldız, böylece Greenpeace Türkiye Ofisi'ni ziyaret eden ilk bakan oldu.