Ahmet Kaya 1957 yılında Adıyaman’dan Malatya’ya göç etmiş olan bir ailenin beşinci çocuğu olarak doğdu.[2] Babası Sümerbank mensucat fabrikasında çalışan bir işçiydi. İlkokulu Malatya’da okudu. Müzikle altı yaşında babasının hediye ettiği bağlama ile tanıştı. Okuldan geri kalan zamanlarında plak ve kaset satan bir dükkânda çalışmaya başladı. Ailesinin geçim sıkıntısı çekmesi nedeniyle 1972’de İstanbul Kocamustafapaşa’ya göç ettiler ve okulu bırakmak zorunda kaldı. İşportacılık ve çeşitli işyerlerinde çıraklık yaptı. Bu dönemde küçük bir yerleşim yerinden büyük bir şehre taşınmanın ve alışmanın sıkıntılarını yaşadı. Bu sıkıntılarını bir belgeselde şöyle dile getirdi:

« Onlarla konuşmuyordum; çünkü onlarla konuşamıyordum. Giyimleri başkaydı, konuşmaları başkaydı. Onlar gibi konuşmaya çalışıyordum. Mesela terziye gidip onlar gibi pantolon diktirmeye filan başlamıştım. Terzinin yaptırdığı pantolonların üzerime uymadığını görüyordum. Onlara yakışıyordu bana yakışmıyordu. Bir kız vardı bizim okulda; herkesin bir aşkı vardır, çocukluk aşkı. Bir gün gittim dedim ki: ‘Biraz seninle konuşak beş dakika, kaçıyorsun hep…’ Bana dedi ki: ‘Rica ederim.’ Öyle bir ağrıma gitti ki: ‘Ben de sana rica ederim,’ dedim.. Ben o zaman anlamını bilmiyordum, yani onu bir küfür zannettim.[2] »
On altı yaşında yasadışı afiş basmaktan hapse atıldı.[2] Daha sonra birkaç arkadaşıyla birlikte Halk Birimleri Derneği’nin çalışmalarına katıldı. Bu çalışmaları sırasında çeşitli etkinliklerde bağlama çalmaya devam etti. Boğaziçi Üniversitesi’nde yapılan bir etkinlikte Ruhi Su ile tanışma fırsatı buldu ve Mahsus Mahal isimli Ruhi Su türküsünü söyledi. 1978 yılında Gelibolu’da askerlik yaptı, bu arada askeri orkestrada müzik çalışmalarına devam etti. Askerlik dönüşü Emine Kaya ile evlendi ve 1982 yılında kızları Çiğdem doğdu.