1968 yılında Sincan, Ankara’da dünyaya gelmiştir. Ailesi Kangal, Sivaslıdır. Müziği küçük yıllardan beri merak sarmıştır. Küçük yaşlarda Gençlik ve Spor Bakanlığı’nın düzenlediği müzik yarışmalarına girerek müziğe başlamıştır.

İlk albümlerini 1980’li yıllarda Sincanlı Küçük Oğuz olarak çıkardı. 1989 yılında “Duydun mu? – Bi Denem” adında albümünü yayımlamıştır ve yaptığı bu şarkı satış rekorları kırmıştır.[kaynak belirtilmeli] 1991 yılında yaptığı anlaşmayla Kazan Plak’la anlaşma yaparak 10’a yakın albüme imza attı. 1993’te “Çarşı Çakalı”, 1994’te “Vurgunum Sana”, 1995 yılında “Zilli Dilek”, 1996 yılında “Nazlı’mı Beklerim”, 1997 yılında “Keriman” gibi albümlere imza attı. 1999 yılında “Usta” albümünü yayımladı.

Bu albümünde yer alan parça “Bas Bas Paraları Leyla”ya, Türkiye’de ve Avrupa’da büyük ilgi gördü. 2001 yılında “Gördün mü?” albümü ile tekrar müzik marketlerdeki yerini aldı. “Çekirge ve Gördün mü?” gibi hit şarkılara imza attı, “Çekirge” parçasıyla çocukların büyük beğenisini kazandı.

2004 yılında kendi müzik şirketiyle yoluna devam eden Oğuz Yılmaz Yılmazlar Plak Şirketini kurdu. Oğuz Yılmaz ayrıca kızı Sude’yle “Uğur Böceğim” şarkısında düet yaptı. Evli ve iki çocuk babası olan Oğuz Yılmaz, 19 Mayıs 2021’de geçirdiği kalp krizi sonucu 52 yaşında hayatını kaybetti. Cenazesi Karşıyaka Mezarlığı’nda toprağa verildi.