ஏ.ஆர். ரஹ்மான் மலையாள திரையுலகில் இசையமைப்பாளராக பணியாற்றிய ஆர்.கே.சேகர் என்பவரது ஒரே மகனாவார். ரஹ்மான் ஒன்பது வயதாயிருக்கும் போதே அவர் தந்தை காலமானார். அதனால் மிகவும் கஷ்டப்பட்ட இவர்கள் குடும்பம் இசைக் கருவிகளை வாடகைக்கு விட்டு அதன் மூலம் வருவாயைக் கொண்டு காலம் தள்ளி வந்தது. இந்நிலையில் ரஹ்மானின் சகோதரி ஒரு விசித்திர நோயினால் தாக்கப்பட்டார். அந்நோயை சூஃபி துறவி ஒருவர் தீர்த்து வைத்தார். அதனால் ஈர்க்கப்பட்டு இஸ்லாம் மதத்திற்கு மாறினார் திலீப் என்ற பெயர் கொண்ட அல்லா ராகா ரஹ்மான்.
ஆரம்ப காலத்தி கீ போர்டு வாசித்து வந்த ரஹ்மான் தனது 11வது வயதில் இளையராஜாவின் குழுவில் சேர்ந்தார். பின்னர் எம்.எஸ்.விஸ்வநாதன் மற்றும் ரமேஷ் நாயுடு ஆகியோரின் இசைக் குழுவிலும் பணியாற்றினார். ஜாகிர் உசேன் மற்றும் குன்னக்குடி வைத்தியநாதன் ஆகியோருடன் இணைந்து உலகம் முழுதும் இசைப்பயணம் மேற்கொண்டார். ஆக்ஸ்போர்டு பல்கலைக்கழகத்தின் டிரினிட்டி கல்லூரியில் உதவித்தொகை பெற்று, மேற்கத்திய இசையில் இளநிலை பட்டம் பெற்றார்.
1991ல் தனது வீட்டை ஒட்டியே தனியாக ஸ்டூடியோ ஆரம்பித்த ரஹ்மான் ஆரம்பத்தில் விளம்பரங்களுக்கும், தொலைகாட்சிகளுக்கு இசை அமைத்து வந்தார். 1992ல் முதன் முதலாக இயக்குனர் மணிரத்தினத்தின் 'ரோஜா' படம் மூலம் இசையமைப்பாளராக தமிழ் திரையுலகில் காலடி எடுத்து வைத்தார். இப்படத்திற்கு இவர் வாங்கிய சம்பளம் ரூ.25,000 மட்டுமே. இப்படத்திற்கு முதன் முதலாக ரஹ்மானுக்கு தேசிய விருது கிடைத்தது. பின்னர் ரஹ்மான் மின்சார கனவு (1997) லகான் (இந்தி 2002) மற்றும் கன்னத்தில் முத்தமிட்டால் (2003) ஆகிய படங்களுக்காக தேசிய விருது வென்றுள்ளார்.
ராம்கோபால் வர்மாவின் ரங்கீலா படம் மூலம் இந்தி திரையுலகில் அறிமுகமானார் ரஹ்மான். தில் சே, தால் ஆகிய இந்திப் படங்கள் அவருக்கு நல்ல பெயரைப் பெற்றுத் தந்தன. இவர் இயக்குனர் மணிரத்தினத்துடன் இணைந்து 2006 வரை பத்து படங்களில் பணியாற்றியுள்ளார். அதேபோல் இயக்குனர் சங்கருடன் இணைந்து ஜென்டில்மேன், காதலன், இந்தியன், ஜீன்ஸ், முதல்வன், நாயக், பாய்ஸ், சிவாஜி போன்ற படங்களில் பணியாற்றியுள்ளார். அதே போல் இவர் இசையமைத்த ரஜினியின் படங்களான முத்து, படையப்பா, இப்போது சிவாஜி ஆகியவற்றின் பாடல்கள் மிகவும் பிரபலபலாமாக இந்தியாவில் மட்டுமின்றி ஜப்பானில் பேசப்படுகிறது.
இவர் வாரியர்ஸ் ஆப் ஹெவன் அண்ட் எர்த் (Warriors of Heaven and Earth) (2003) என்ற சின ஆங்கிலப்படத்திற்கும் பின்னணி இசையமைத்துள்ளார். இவர் வந்தே மாதரம் என்ற (1996) இசைத் தொகுப்பையும் வெளியிட்டுள்ளார். பாம்பே டிரீம்ஸ் (Bombay Dreams)(2002) என்ற ஆங்கில நாடகத்திற்கும் இவர் இசையமைத்துள்ளார்.
ரஹ்மானின் இசை சேவையைப் பாராட்டி அவருக்கு இந்திய அரசு பத்ம ஸ்ரீ விருது அளித்து கௌரவித்துள்ளது.