12 Eylül öncesinde Ülkücü Gençler Derneği (ÜGD) üyesi olan Yılmaz, sonraki yıllarda çek - senet tahsilatı işine girdi. İlk yasadışı işi sahte piyango bileti basmak olan Yılmaz, kısa sürede yakalandı. Yılmaz, İstanbul Emniyet Müdürlüğü Özel Kalemi'nde çalışan Polis Memuresi Tülay Çetin'le sürpriz bir evlilik yapmasıyla tekrar gündeme geldi. İki cinayete karıştı ve cezaevinde bulunduğu dönemde özel izinle evlenen Yılmaz'ın adı ilk olarak Banker Kastelli olarak bilinen Cevher Özden'i ayaklarından kurşunlanması olayında duyuldu. Yılmaz'ın adının karıştığı en büyük olay, 1991'i 1992'ye bağlayan yılbaşı gecesi, Çakıl Gazinosu'nda işlenen Ayanoğlu cinayeti oldu. Yılmaz, "Kısmetim 1" gemisiyle ilgili davada 5 yıl 10 ay hapis cezasına çarptırılan Derya Ayanoğlu'nun babası armatör Osman Ayanoğlu'nu adamı Yavuz Kaşıkçı'yı öldürtmek suçundan yakalandı. Ancak delil yetersizliğinden serbest bırakıldı. 1992'de Kayhan Güvelioğlu'nu öldüren Yılmaz, 19 yıl ağır hapis cezasına çarptırıldı. Bayrampaşa Cezaevi'nden Çanakkale Cezaevi'ne sevkedilen Yılmaz, 1994'te hastaneye giderken firar etti. Dört ay sonra yakalanıp yeniden Bayrampaşa'ya konuldu. Daha sonra Sinop ve Ünye kapalı, Ünye ve İskilip yarı açık cezaevlerini dolaştı. Kızını kaçıranlardan intikamYılmaz, Boldavin Yarıaçık Cezaevi'ne gönderildikten bir süre sonra Devlet Hastanesi'nde tedavi görürken, 14 Şubat 1997'de, yeni evlenen kızı Ülkü Gümgüm, eski nişanlısı kaçak polis memuru Dursun İri ve arkadaşlarınca kaçırıldı. Bu olayın hemen ardından İri'nin iki kardeşinin Gebze'de öldürülmesi, gözlerin yine Yılmaz'a çevrilmesine neden oldu. Yılmaz suçlamaları reddederken Dursun İri, Boldavin'de yakalandı. İri'nin intikam almaya gittiği öne sürüldü. Yılmaz, Mart 1997'de yargılandığı mahkemede 16 yıl ceza aldığı gün, tedavi görmekte olduğu Boldavin Devlet Hastanesi'nden de kaçtı. Polisin firardan bir saat 40 dakika sonra haberinin olması ortalığı karıştırdı. Antalya'nın Kaş ilçesinde yakalanarak Bayrampaşa ve ardından Burdur E Tipi Kapalı Cezaevi'ne gönderilen Yılmaz, Şubat 1998'da üçüncü kez firar etti. Yılmaz'ın firarına Titan yöneticisi Kenan Şeranoğlu'nun yüklü miktarda para vererek yardımcı olduğu öne sürüldü. Yılmaz'ın Kuşadası eski Belediye Başkanı Lütfü Suyolcu'yu öldürtmesiyle ilgili Aydın 1. Ağır Ceza Mahkemesi'nin verdiği 16 yıl ağır hapis cezasını az bulan Yargıtay, kararı bozdu. 4 kez kaçtı, sonunda yakalandıYılmaz, dördüncü kez gerçekleştirdiği kaçış denemesinin sonunda 25 Temmuz 1998'de Bulgaristan'ın Varna kentinde kaldığı otel odasında tekrar yakalandı. Varna Emniyet Müdürlüğü'nde gözaltında tutulan Yılmaz, Varna Kapalı Cezaevi'nde bir süre tutuklu kaldı. 17 Nisan 1999'da Türkiye'ye iade edilen ve Kartal Özel Tip Kapalı Cezaevi'ne konulan Yılmaz, 15 Temmuz 1999'da Kuşadası eski Belediye Başkanı Lütfi Suyolcu'yu öldüren tetikçi Fırat Erdoğan'ı azmettirdiği gerekçesiyle suç ortağı Yavuz Kaşıkçı'yla birlikte ömür boyu hapis cezasına çarptırıldı. Yılmaz, duruşmada, "Cezaevinde suçsuz olarak yatıyorum. Suyolcu'yu tanımam. Aynı davada yargılanan Ömer Oral, Alaattin Çakıcı'nın adamıdır. Bu komplodur. Ben Hepatit C hastasıyım. Kendimi acındırmak istemiyorum.Cinayeti işlettiğim ispatlansın. Kellemi veririm. Tahliye benim hakkım. Benim 3 - 4 trilyonluk servetim var. Bu serveti ailemden aldım. Niçin 3 - 5 milyar lira için adam öldürteyim" dedi.