James Ellroy nacque a Los Angeles da Ginevra Odelia, infermiera e Armand, contabile e ex manager aziendale di Rita Hayworth. Dopo il divorzio dei genitori, Ellroy e la madre si trasferirono a El Monte, in California. Il 22 giugno 1958 la madre fu violentata e uccisa. La confusione e il trauma per la morte della madre, portarono
Ellroy a un periodo di profonda depressione clinica, da cui si riprese solo gradualmente.
Ellroy abbandonò la scuola e si arruolò nell'esercito degli Stati Uniti per un breve periodo. Durante l'adolescenza abusò d’alcol rimanendo spesso coinvolto in reati minori (soprattutto taccheggio, effrazione e furto con scasso). Dopo aver scontato un po' di tempo in prigione e aver sofferto di polmonite, Ellroy smise di bere e iniziò a lavorare in un golf club, dedicandosi al contempo alla scrittura.
Ellroy ottenne grande successo di pubblico e critica con la serie di romanzi detta Quadrilogia di Los Angeles :
Dalia nera (1987),
Il grande nulla (1988 ),
LA Confidential (1990),
White Jazz (1992). I quattro romanzi segnano una svolta nello stile di
Ellroy che, dalla tradizione noir classica dei primi romanzi, passa a una narrativa che è stata definita come metafiction postmoderna che consiste cioè nel fondere fatti, persone e luoghi reali con elementi di finzione.
Nel 1995
Ellroy ha pubblicato
American Tabloid, il primo romanzo di una serie soprannominata informalmente
Underworld USA.
Ellroy ha descritto la serie come la storia segreta della seconda metà del Novecento. La serie è continuata con
Sei pezzi da mille (2001) e
Il sangue è randagio (2009).