Александр Рубинов родился в Ленинграде. Окончил Ленинградскую государственную консерваторию им. Н. А. Римского-Корсакова (класс фортепиано Григория Соколова) и ассистентуру-стажировку консерватории; в классе камерного ансамбля обучался у Тамары Фидлер, в концертмейстерском классе – у Софьи Вакман. В школьные годы дебютировал с Академическим симфоническим оркестром Ленинградской филармонии.
Ведет активную концертную и педагогическую деятельность. Гастролирует как солист, концертмейстер и участник ансамблей в России и за рубежом. Принимал участие в фестивалях во Фрайбурге и Утрехте. Выступал в Пекине, Стокгольме, Гётеборге, Осло, городах Швейцарии, Германии, Финляндии, Италии, США. Сотрудничает с ведущими российскими музыкантами и коллективами, солистами оперных театров Москвы и Санкт-Петербурга, в том числе Мариинского и Михайловского театров, Большого театра России и театра «Геликон-опера» (Москва). Регулярно выступает в Большом и Малом залах Санкт-Петербургской филармонии, Государственной академической капелле Санкт-Петербурга, Концертном зале Мариинского театра, петербургских дворцах и музеях. Руководил несколькими музыкальными проектами Комитета по культуре Санкт-Петербурга. Работал солистом Санкт-Петербургского государственного академического симфонического оркестра. Ныне солист «Петербург-концерта».
Преподает на кафедре музыкального искусства Академии Русского балета им. А. Я. Вагановой дисциплины «Специальный инструмент» и «Концертмейстерский класс».
С 2019 года концертмейстер оперы Мариинского театра. Педагог и концертмейстер программы Аткинс.
Входит в состав жюри многих музыкальных конкурсов. Проводит мастер-классы.
Записал несколько компакт-дисков.