1957 yılında Malatyalı bir ailenin beşinci çocuğu olarak doğdu. Babası Sümerbank mensucat fabrikasında çalışan bir işçiydi. İlkokulu Malatya'da okudu. Müzikle altı yaşında babasının hediye ettiği bağlama ile tanıştı. Okuldan geri kalan zamanlarında plak ve kaset satan bir dükkânda çalışmaya başladı. Ailesinin geçim sıkıntısı çekmesi nedeniyle 1972'de İstanbul Kocamustafapaşa'ya göç ettiler ve okulu bırakmak zorunda kaldı. İşportacılık ve çeşitli işyerlerinde çıraklık yaptı. Bu dönemde küçük bir yerleşim yerinden büyük bir şehre taşınmanın ve alışmanın sıkıntılarını yaşadı. Bu sıkıntılarını bir belgeselde şöyle dile getirdi:
« Onlarla konuşmuyordum çünkü onlarla konuşamıyordum. Giyimleri başkaydı, konuşmaları başkaydı. Onlar gibi konuşmaya çalışıyordum. Mesela terziye gidip, onlar gibi pantolon diktirmeye filan başlamıştım. Terzinin yaptırdığı pantolonların üzerime uymadığını görüyordum. Onlara yakışıyordu bana yakışmıyordu. Bir kız vardı bizim okulda; herkesin bir aşkı vardır, çocukluk aşkı. Bir gün gittim dedim ki: 'Biraz seninle konuşak beş dakika, kaçıyorsun hep...' Bana dedi ki: 'Rica ederim.' Öyle bir ağrıma gitti ki: 'Ben de sana rica ederim,' dedim.. Ben o zaman anlamını bilmiyordum, yani onu bir küfür zannettim. »
Onaltı yaşında yasadışı afiş basmaktan hapse atıldı.[2] Daha sonra birkaç arkadaşıyla birlikte Halk Birimleri Derneği'nin çalışmalarına katıldı. Bu çalışmaları sırasında çeşitli etkinliklerde bağlama çalmaya devam etti. Boğaziçi Üniversitesi'nde yapılan bir etkinlikte Ruhi Su ile tanışma fırsatı buldu ve Mahsus Mahal isimli Ruhi Su türküsünü söyledi. 1978 yılında Gelibolu'da askerlik yaptı, bu arada askeri orkestrada müzik çalışmalarına devam etti. Askerlik dönüşü Emine Kaya ile evlendi ve 1982 yılında kızları Çiğdem doğdu.
İlk dönem albümlerinde genel olarak bağlamaya ağırlık verdi. Ahmet kayanın tarzı pop, Türk halk müziği ve arabesk kategorilerine tam olarak dahil edilemediği için özgün müzik denilmeye başlandı. Kendisi müzik tarzının devrimci arabesk veya protest olarak tanımlanmasına karşı çıktı. Sözlerini kendisinin yazdığı bestelerle beraber, Attilâ İlhan, Can Yücel,Nevzat Çelik, Hasan Hüseyin Korkmazgil, Enver Gökçe, Ahmed Arif gibi tanınmış şairlerin şiirlerini de bestelemiştir. Genellikle şarkılarında toplumsal meseleler işlenir. Toplam yirmiiki albümünde sadece bir Kürtçe şarkısı (Karwan) vardır ve bir tane de Kürtçe açılış bulunur.
Boğaziçi Üniversitesi'nde Ruhi Su ile tanışıp Mahsus Mahal isimli türküyü çaldığı zaman, Ruhi Su bağlamanın bu şekilde, at teper gibi çalınmayacağını söyler. Yıllar sonra Ahmet Kaya bir konserinde bağlama çalarken bu olaya nüktedan bir gönderme yaparak "Bağlama böyle de çalınır," der.
Ahmet Kaya, 2000 yılında Hoşçakalın Gözüm isimli albümünün kayıtlarını yaparken, Paris'in Porte de Versailles semtindeki evinde bir gece kalp krizi sonucu hayatını kaybetti. Bu albümde Karwan isimli şarkıyı seslendirdi. Cenaze merasimi Paris Kürt Enstitüsü'nde yapıldı.
Ölümünden sonra, 2002 yılında Ahmet Kaya'nın şarkılarını 20 ünlü sanatçının söylediği Dinle Sevgili Ülkem isimli bir albüm yapılmış , Magazin Gazetecileri Derneği'nin gecesinde duyurduğu Kürtçe Karwan (Kervan) parçasının ve klibinin de bulunduğu Hoşçakalın Gözüm, Biraz da Sen Ağla albümü yayımlandı. Père-Lachaise mezarlığı bulunan mezarı 2003 yılında tekrar düzenlendi. Mezar ağırlığının yaklaşık 3,5 ton olduğu söylenmektedir. Üzerine kardelen motifleri, enstrümanlar, Kastamonu yazması, İstanbul silueti, şarkı sözleri ve büstünün bulunduğu bir mezardır. Kalsın Benim Davam. ve Gözlerim Bin Yaşında (Aralık 2006) adlarında dört albümü daha yayınlanmıştır.
4 Eylül 2007'de, Türkiye'de kendi ismine açılan tek yer olan, Ahmet Kaya Halk Evi Batman'da açıldı.2009 yılında AKP hükümetince mezarının Paris'ten Türkiye'ye taşınması konusunda fikirler ortaya atıldı. Ahmet Kaya'nın kabri halen Paris'in Père Lachaise Mezarlığı'nda yer almaktadır.