Firma zadebiutowała nagraniem „It’s Yours” T La Rock’a i Jazzy Jay’a, wydanym przy współpracy z Partytime/Streetwise. Dzięki kilku śmiałym posunięciom, Simmons (brat Joego „DJ Runa” Simmonsa z „Run DMC”) już w 1984 r. został określony przez „The Wall Street Journal” jako „rekin muzyki rapowej”.
Rok później wytwórnia podpisała strategiczny kontrakt dystrybucyjny z firmą Columbia, której pierwszym owocem był przebój LL Cool J'a I Can’t Live Without My Radio. W tym samym czasie Simmons prowadził interesy m.in. Whodini, Kurtisa Blow, Dr. Jackyll & Mr. Hyde i Run DMC (razem z Larrym Smithem „Orange Krush” był producentem dwóch pierwszych albumów tej grupy). Rubin przyczynił się do powstania debiutanckiego albumu firmy, później występował w roli producenta na znakomitych longplayach Beastie Boys i LL Cool J’a. Razem z Simmonsem zrealizował platynowy album „Tougher Than Leather”. Jednak największą zdobyczą wytwórni okazała się grupa „Public Enemy”, chociaż Simmons nie od początku wierzył w jej możliwości. Spółka Simmons/Rubin rozpadła się w 1987 r. w atmosferze niezgody. Simmons, oprócz „Def Jam”, zaangażował się w prowadzenie kilku innych firm m.in. Rush Management, firmy odzieżowej Phat Farm oraz HBO’s Def Comedy Jam, a także kierował karierą takich artystów R’n’B, jak Alyson Williams, Oran’ Juice Jones, Tashan czy The Black Flames. Tymczasem Rubin założył w 1988 r. własną firmę „Def American”. Z powodzeniem wydawał nagrania różnych artystów, w tym kilku grup thrashmetalowych, m.in. Slayer. 27 sierpnia1993 r. Rubin oficjalnie usunął cząstkę „Def” z nazwy wytwórni, uznając, że skoro słowo znalazło się w najnowszym wydaniu słownika amerykańskiego (def w slangu znaczy „w porządku”), straciło ono posmak niezależnego języka ulicy. „Pochował” je w uroczystym, nowoorleańskim stylu z towarzyszeniem dixilandowego bandu.
Wytwórnia Def Jam kontynuowała dziełalność, wycofując się jednak z umowy z koncernem Columbia i podpisując umowę z Polygram. W 1992 roku na zachodnim wybrzeżu, został otwarty oddział firmy DJ West, a pierwsze kontrakty podpisali z nią Boss i MC Sugs. Z okazji dziecięciolecia wytwórni w 1995 r. powstał film „The Show” Klik!, będący zapisem aktualnej sytuacji hip hopu.
Najpopularniejsze LP ze stajni Def Jam i Def American do 1990:
LL Cool J – Radio (1985)
Beastie Boys – Licensed To Ill (1986)
Public Enemy – Yo! Bum Rush The Show! (1987)
LL Cool J – Bigger & Deffer (1987)
Public Enemy – It Takes A Nation Of Millions To Hold Us Back (1988)
Slick Rick – The Great Adventures Of Slick Rick (1988)
3rd Bass – The Cactus Album (1989)
LL Cool J – Walking With A Panther (1989)
Sir Mix-A-Lot – SWASS (1989) (Def American)
Public Enemy – Fear Of A Black Planet (1990)
EPMD – Business As Usual (1990)
LL Cool J – Mama Said Knock You Out (1990)