Родился 7 августа 1945 года в Ташкенте (Узбекская ССР, ныне Республика Узбекистан) в семье инженеров Бориса Марковича Гандельсмана (1920-1989) и Ады Александровны Литвак-Журбиной (1920-2013). Отец – уроженец Сновска, участник Великой Отечественной войны, старший техник-лейтенант.

До 1972 года Александр носил фамилию отца. Поменял фамилию Гандельсман на фамилию матери, с тех пор известен как Александр Журбин. Смену объясняет трудным произношением отцовской фамилии. В 1951 году родился младший брат Юрий.

В доме всегда звучала музыка. Слушали записи К. Шульженко, М. Бернеса, Л. Утесова. Танцевали фокстрот, танго. У мамы были прекрасные вокальные данные. В 1941 году ее зачислили в институт им. Гнесиных, но учиться там не довелось: началась война, пришлось эвакуироваться. Ада Александровна очень хотела, чтобы сыновья получили музыкальное образование. Ее мечта сбылась: Александр, Юрий, их дети и внуки стали музыкантами.

Окончил Республиканскую среднюю специальную музыкальную школу имени В.А. Успенского в 1963 году и Ташкентскую консерваторию по классу виолончели, затем – Институт им. Гнесиных по классу композиции, а также аспирантуру Ленинградской консерватории (диссертация посвящена поздним симфониям Густава Малера).

Во время Ташкентского землетрясения 1966 года дом Журбиных был разрушен, после чего семья переехала в Москву. С 1970 по 1977 год жил в Ленинграде, где поставил «Орфея и Эвридику» – первую советскую рок-оперу (написана в 1975 году, поставлена ансамблем «Поющие гитары» в оперной студии при Ленинградской консерватории). После этого, спектакль гастролировал по Советскому Союзу (более 3000 представлений). «Орфей» занесён в книгу рекордов Гиннеса как самый долгоиграющий мюзикл в одном составе.

В 1974 году сочинил музыку к балету «Красная птица»; работал над концертом для альта с оркестром. В 1978 году А. Журбин выступил в качестве автора музыки к балету «Западня».

Журбин активно работает в академических жанрах, сочинив восемь симфоний (1969, 1970, 1995 годы и 2010, 2015, 2020, 2021, 2023), концерт для фортепиано с оркестром (1972), концерт для альта с оркестром (1974), концерт для виолончели с оркестром «Иерусалим» (1995), концерт для скрипки с оркестром (1999), три квартета, фортепианный квинтет, сонаты, ряд произведений камерной музыки, а также вокальных циклов, ораторий и кантат. Кроме того, работал в жанре лёгкой эстрадной музыки. Написал около двухсот песен, в том числе такие, как «Мольба», «Песня о счастье», «Лошадка – жизнь», «Все к лучшему», «Послевоенное танго», «Тучи в Голубом».

С 1990 по 2001 год композитор жил с семьёй в Нью-Йорке. В 1992 году организовал первый русско-американский театр «Блуждающие звёзды», в труппе которого заняты, в частности, бывшие видные советские кино- и драматические актёры, в том числе Елена Соловей. В 1995 году А. Журбин создал мюзикл «Шалом, Америка!», сочинил симфонию, работал над созданием концерта для виолончели с оркестром. В 1997 году был художественным руководителем концерта, посвященного 850-летию Москвы, в нью-йоркском концертном зале «Карнеги-холл».

С 2001 года живёт на два дома  в Москве и в Нью-Йорке. Возвращение в Россию произошло вскоре после терактов 11 сентября 2001 года, которыми были уничтожены башни торгового центра по соседству с нью-йоркским офисом композитора. С апреля 2007 года до апреля 2015 года на НТВ композитор вел программу «Мелодии на память». В 2008-2011 гг. вёл программы «Музыкальные перекрестки» и «Звуки мюзикла» на радиостанции «Орфей».

Александр Журбин является автором музыки к более чем 200 песням. Их исполняли Иосиф Кобзон ("Послевоенное танго"), Тамара Гвердцители ("Лошадка-жизнь"), Николай Караченцов ("Ради женщин"), Михаил Боярский ("Осенняя баллада"), Кристина Орбакайте ("Тучи в голубом") и другие известные артисты.
Музыка Александра Журбина звучит в нескольких десятках фильмов и сериалов. В их числе: "Все решает мгновение" (1978), "Эскадрон гусар летучих" (1980), "Письма мертвого человека" (1986), "Московская сага" (2004), "Тяжелый песок" (2008), "Странники терпенья" (2018), "Любовь и монстры" (2020).

В 2005 году отпраздновал 60-летие двухнедельным фестивалем в Москве под названием «Пять юбилеев Александра Журбина». В 2007 году написана музыка к телесериалу «Тяжёлый песок». В том же году на конкурсе «Музыкальное сердце театра» лучшей была признана музыка Журбина к поставленному в Перми мюзиклу «Владимирская площадь».

В 2010 году фестиваль под названием «Александр Журбин: Музыка. Театр. Кино» был посвящён 65-летию композитора и продолжался пять недель. В том же году указом Президента РФ Александр Журбин был награждён орденом Почёта.

В сентябре 2012 года состоялась премьера оперы «Альберт и Жизель», главную партию в которой исполнил Николай Басков. К 70-летию композитора в 2015 году были приурочены двухмесячный фестиваль «Всё к лучшему!», где состоялась премьера пятой симфонии («Sinfonia Bizarra»), и юбилейный концерт «Лёгкая музыка для серьёзных людей» (3 декабря 2015 года, московский Дом музыки). В том же году представлена опера «Мелкий бес» по роману Ф. Сологуба.

Журбин – автор автобиографических книг «Моя музыкальная жизнь» (2011), «О временах, о музыке и о себе» (2016), аудиотрилогии «Звуки мюзикла» (2007).

В мае 2017 года состоялась премьера новой оперы композитора «Метаморфозы любви» в Московском музыкальном театре имени Станиславского и Немировича-Данченко. Лауреат Премии города Москвы в области литературы и искусства в номинации «Музыкальное искусство» (2017).

В начале октября 2019 года в рамках Года театра прошел творческий вечер А. Журбина. Весну 2020 года композитор назвал продуктивным временем. В период пандемии COVID он много работал дома: сочинял партитуры, корректировал ранее написанную музыку.

На фестивале «Серьёзно и Легко», который продолжался в сентябре 2020 года по февраль 2021 года было исполнено множество сочинений композитора, в том числе состоялась премьера опер «Анна К.» и «Счастливый День», а также шестой симфонии.

В 2022 году написал музыку к фильму «Непокорённые» о судьбе людей в концлагерях Маутхаузен и Пенемюнде; в конце октября в Театре музыкальной комедии состоялась премьера его детектива «Мышеловка». В Театре эстрады в 2023 году был поставлен новый мюзикл «Между двух миров».

Первая жена – Лора Квинт, композитор (поженились в 1971 году, развелись в середине 1970-х). Сын – Филипп Квинт (род. 1974), окончил Джульярдскую школу в Нью-Йорке, скрипач, в США снялся в ряде телесериалов.

Вторая жена – Ирина Львовна Гинзбург (род. 1950, поэтесса и переводчик, мемуаристка (поженились в 1978 году). Сын – Лев Александрович Журбин (род. 1978), композитор, альтист, автор музыки к фильмам. Руководитель нью-йоркского ансамбля «Ljova & the Contraband».

Брат – Юрий Борисович Гандельсман, известный израильский и американский альтист.