Начал свою профессиональную карьеру в 2003 году в составе клуба Высшей лиги ХК «Рыбинск».

В следующем году дебютировал в Суперлиге в составе казанского «Ак Барса», с которым в 2006 году стал чемпионом России. Однако следующие два сезона Рыбаков провёл в составе нижнекамского «Нефтехимика», а в 2008 году и вовсе вернулся в Высшую лигу. Тем не менее, проведя отличный сезон в составе ХК «Рысь», Александр был вызван в состав московского «Спартака», где и выступал до ноября 2010 года.

11 ноября был обменян в череповецкую «Северсталь» на нападающего Михаила Жукова и защитника Александра Будкина. За неполный сезон в составе череповчан набрал 10 (4+6) очков в 31 проведённом матче.

1 июня 2011 года подписал контракт с мытищинским «Атлантом». В сезоне 2011/12 в «Атланте» сыграл 54 игры набрал 20 (5+15), в сезоне 2012/13 отыграл 22 игры, после чего был обменян в «Югру» из Ханты-Мансийска.

В 2013 году подписал контракт с ХК «Витязь», в сезоне 2013/14 сделал 5 результативных передач за 31 игру.

В 2014 году подписал контракт с «Автомобилистом», в 43 матчах набрал 18 (8+10) очков.

В начале мая 2015 года подписал контракт с «Трактором».

1 мая 2016 года подписал двухлетний контракт с московским «Динамо».

4 июля 2017 года – расторжение контракта и присвоение статуса НСА решением КХЛ и Совместной Дисциплинарной палатой ФХР.

История контракта:
01.05.2016 – односторонний контракт на 2 года (переход в клуб в качестве свободного агента из челябинского «Трактора»).
04.07.2017 – расторжение контракта и присвоение статуса НСА решением КХЛ и Совместной Дисциплинарной палатой ФХР. 

Игры:
24.08.2016 – Адмирал – Динамо Москва (3:4 Б) – 1-я игра за клуб.
02.09.2016 – Динамо Москва – Сибирь (4:1) – 350-я игра в КХЛ.
17.09.2016 – Спартак – Динамо Москва (2:3 Б) – 450-я игра в чемпионатах России.
23.02.2017 – Динамо Москва – Торпедо (3:2 ОТ) – 1-я игра за клуб в плей-офф КХЛ/последняя игра за клуб. 

Шайбы, передачи, очки:
24.08.2016 – Адмирал – Динамо Москва (3:4 Б) – 1-й победный послематчевый бросок за клуб.
26.08.2016 – Амур – Динамо Москва (2:3) – 1-я результативная передача за клуб/1-е очко за клуб.
02.09.2016 – Динамо Москва – Сибирь (4:1) – 1-я шайба за клуб/1-я победная шайба за клуб.
02.02.2017 – Слован – Динамо Москва (1:2) – 50-я шайба в чемпионатах России/последняя шайба за клуб/последнее очко за клуб. 

Личные достижения (клуб):
24.08.2016 – Адмирал – Динамо Москва (3:4 Б) – 16 минут 58 секунд – личный рекорд по времени, проведенном на льду за клуб в матче КХЛ. 

Серии:
26.08.2016 – 02.09.2016 – 4-матчевая серия с набранными очками.