1936 yılında İstanbul’da doğdu. Ankara Üniversitesi Siyasal Bilgiler Fakültesi’nden mezun oldu. Amerika Birleşik Devletleri’nde University of Georgia’dan MBA derecesi aldı. Doktorasını İstanbul Üniversitesi’nde tamamladı.

Devlet Planlama Teşkilatı’nda çalıştıktan sonra özel sektöre geçti; çeşitli kuruluşlarda genel müdür, genel koordinatör, yönetim kurulu üye ve başkanlığı görevlerinde bulundu. 1995 seçimlerinde Anavatan Partisi’nden İstanbul Milletvekili seçildi ve genel başkan yardımcılığı görevini üstlendi. 57. Hükümet’te Devlet Bakanı olarak görev aldı.

Bölgemizin dolayısı ile Eyüp’ün de milletvekili olan Yılmaz KARAKOYUNLU ilk müzik eğitimini babası Avukat Fikret KARAKOYUNLU’dan aldı. Daha sonra babasının yakın arkadaşlarından ve bu arada Arif Sami TOKER, İsmail TEZELLİ ve Yusuf ÖMÜRLÜ’den yararlandı.

İlk bestesi 1995 yılında yapmış olduğu “Biz bu ömrün vuslatından sanki hasret bekledik” mısrası ile başlayan Sûzdil makamında ve müsemmen usûlündeki sarkışıdır. Şarkılarının önemli bölümü T.R.T. Repertuarı’ndadır.

Yılmaz KARAKOYUNLU’nun şiirleri çeşitli bestekârlar tarafından bestelendi. Ruhi AYANGİL, Osma İPER, Ali ŞENOZAN, Özgen GÜRBÜZ, Necip GÜLSES, Ziya TAŞKENT, Dr. Alâeddin YAVAŞÇA, Fethi KARAMAHMUTOĞLU, İrfan ÖZBAKIR, Arif Sami TOKER, Yılmaz PAKALINLAR, Osman BABUŞÇU, Murat AKÇAY, Faruk ŞAHİN, Akın ÖZKAN, Fatih SALGAR, Âmir ATEŞ, Dr. Teoman ÖNALDI, Gönül PAÇACI, Metin EVERES, Demir KARABAŞ, Yılmaz KARAKOYUNLU’nun şiirlerinden beste yapan sanatçılardır.