Als er das College vorzeitig abbrach, überzeugte ihn sein Vater, zum Militär zu gehen, um die notwendige Disziplin für das Leben zu lernen. Daraufhin kam Alex Haley zur Coast Guard, wo er von 1939 bis 1959 diente.

Dort kam er mit dem Pacific theater of operations in Kontakt und in ihm reifte der Gedanke, Schriftsteller zu werden. Erste Erfahrungen soll er gesammelt haben, als er für andere Seeleute Liebesbriefe für deren Freundinnen verfasste.

1949 liess er sich innerhalb der Army zum Bereich des Journalismus versetzen und hatte dort zuletzt den Rang des Chief Petty Officer inne und avancierte zum ersten Chief Journalist.

Nach seinem Austritt aus der Coast Guard und etlichen Auszeichnungen in der Hand konzentrierte er sich auf seine schriftstellerische Ambitionen.
Er wurde Senior Editor für das Reader's Digest und arbeitete zudem für "The Saturday Evening Post und ab 1962 für den Playboy, wo seine erste Arbeit ein Interview mit Miles Davis war. Später folgten Interviews mit anderen Persönlichkeiten, darunter auch Martin Luther King jr., Malcolm X, Muhammad Ali, Sammy Davis jr., Quincy Jones, Johnny Carson und dem Leiter der amerikanischen Nazi-Partei, George Lincoln Rockwell.

Seine bis dato bekannteste Arbeit veröffentlichte er 1965 mit den Memoiren von Malcolm X, mit dem er daran mehrere Jahre zusammenarbeitete. Nur wenige Wochen nach der Fertigstellung fiel Malcolm X einem Anschlag zum Opfer. Es war gleichzeitig Alex Haleys erstes Buch.
1998 zählte das Time-Magazin diese Autobiographie zu den 10 einflussreichsten nicht fiktionalen Büchern des 20. Jahrhunderts.

1973 entstand Haleys einziges Drehbuch für einen Film mit dem Titel "Spuer Fly T.N.T." (73).

Als er 1976 das auf seiner Familiengeschichte basierende Buch "Roots: The Saga of an American Family" (76) herausbrachte, landete er damit einen Riesenhit.  Das Buch zog unzählige Leser in den Bann, wurde erfolgreich für das Fernsehen verfilmt mit über 130 Millionen Zuschauer weltweit und brachte ihm den Pulitzer-Preis ein.

Dieser kometenhafte Aufstieg kam jedoch 1978 zu einem abrupten Ende, als der Autor Harold Courlander Klage gegen Alex Haley einreichte und ihn des Plagiats anklagte, da er 81 Passagen aus seinem Buch "The African" übernommen haben soll.
Das Gericht stimmte dem Vorwurf nach Konsultation von Spezialisten zu und Alex Haley zahlte an Courlander nach einem fünfwöchigen Gerichtsverfahren $650'000.--, da die benannten Passagen einen wesentlichen Anteil am Erfolg und der Glaubwürdigkeit von "Roots" ausmachten.

Trotz dieses Vorfalls ist "Roots" ein äusserst eindrückliches, teilweise fiktionales Werk, das stellvertretend von den menschenverachtenden Praktiken gegenüber den verschleppten Afrikanern und dem Schicksal unzähliger Schwarzer in den USA steht. Als Familienchronik kann "Roots" nicht gelten, da einige genannten Daten nicht den Tatsachen entsprachen und von Alex Haley auch als teilweise fiktional bestätigt wurde.

Ab Ende der 70er Jahre begann Alex Haley, an einem zweiten historischen Roman zu schreiben, der dieses Mal die Familiengeschichte seiner Grossmutter Queen beleuchtete.
Kurz vor Beendigung des Buches erlag Alex Haley 1992 einem Herzschlag. David Stevens beendete den Roman. Er wurde unter dem Titel "Alex Haley's Queen" herausgebracht.
Stevens beendete auch Haley's Roman "Mama Flora's Family", welcher 1998 veröffentlicht wurde.

Dazwischen schrieb Alex Haley auch noch das Buch "A Different Kind of Christmas" (88).

Alex Haley gilt immer noch als der bestverkaufte afro-amerikanische Schriftsteller.