Родился в одном из хоккейных центров Чехии — городе Злин. В местном же одноименном клубе начинал свои занятия этим видом спорта. В 16 лет защитник дебютировал в юношеском составе «Злина», где играли ребята в основном на 2 года его старше. Большой потенциал игрока не был оставлен без внимания и тренерами национальной сборной Чехии — на следующий год Рахунек выступил на чемпионате Европы среди юношей (U-18).

В 1997 году, в возрасте 18 лет, защитник дебютировал на взрослом уровне — в Экстралиге, в форме «Злина». И в первом же сезоне смог отметиться заброшенной шайбой. В сезоне 1998/99 — полноправный игрок основного состава в своем клубе, а кроме этого выступает на молодежном чемпионате мира в Виннипеге (где чехи «провалились», заняли лишь предпоследнее место).

На драфте НХЛ выбран «Оттава Сенаторс». За полтора сезона он стал незаменимым «сенатором», продуктивно играл при начале атаки. Его роль в команде была настолько весомой, что когда закончился первый контракт и клуб предложил незначительное увеличение зарплаты защитник предпочел устроить забастовку и поиграть в России, тем самым добившись значительного повышения жалования. Во 2-й раз приехал в Россию во время локаутного сезона 2004/05, к Кари Хейккиля в Ярославль.

Спустя 2 сезона возвращается НХЛ, выступал за «Нью-Йорк Рейнджерс», где на тот момент царила диаспора соотечественников во главе с Яромиром Ягром, и «Нью-Джерси Дэвилз». Однако, лавров себе так и не снискал и вновь вернулся в Россию, где выступал уже за «Динамо» и в первом сезоне КХЛ помог своей команде дойти до полуфинала Кубка Гагарина.

Второй чемпионат КХЛ стал для Карела вторым же в составе московского "Динамо". Однако, назвать его удачным для защитника, также как и для всей команды, язык не повернется. Тренер Сергей Котов еще до своей отставки не жаловал Карела большим объемом игрового времени. И, хотя после смены Котова на Хомутова ситуация в этом плане для чешского легионера изменилась в лучшую сторону, набрать свои оптимальные кондиции в дальнейшем он так и не смог. По стечению обстоятельств, едва ли не лучшим матчем во всем чемпионате для Карела Рахунека стала домашняя игра "Динамо" против ярославского "Локомотива", в которой он набрал 3 (1+2) очка. Всего же за сезон легионер заработал 27 (10+17) баллов, но показал отрицательный показатель полезности "-6". При этом в актив Рахунеку можно занести игру в большинстве, ведь 7 из своих 10-ти шайб он забросил как раз в тот момент, когда его команда имела на площадке на одного или двух хоккеистов больше.

Гораздо лучше получился у Карела сезон в сборной своей страны. На чемпионате Мира он прекрасно сыграл в решающих матчах и помог своей стране вернуть себе титул победителей.

Член сборной Чехии по хоккею на роликовых коньках, с которой в 2011 году стал чемпионом мира

28 апреля 2010 года
Защитники Карел Рахунек, Дмитрий Воробьев, а также нападающие Иржи Гудлер и Дмитрий Шитиков договорились с руководством клуба расторгнуть контракты по обоюдному согласию.

7 сентября 2011 года
В 16:02 при вылете из ярославского аэропорта "Туношна" разбился самолет Як-42, на борту которого находился полный состав хоккейного клуба "Локомотив" Ярославль. На взлете лайнер не смог набрать безопасную высоту, врезался в антенну маяка, располагавшегося за взлетно-посадочной полосой, и, развалившись на части, упал вблизи аэропорта.

Игровые номера, под которыми выступали в сборной Чехии погибшие в авиакатастрофе хоккеисты ярославского "Локомотива" Карел Рахунек, Ян Марек и Йозеф Вашичек, будут выведены из обращения. Вашичек выступал под номером 63, Марек — под номером 15, а Рахунек под номером 4. Именно под этими номерами игроки становились чемпионами мира (Вашичек — в 2005-м, а Марек и Рахунек — в 2010-м).

В чешском «Злине» принято решение изъять из обращения номер, под которым выступал за этот клуб защитник «Локомотива» Карел Рахунек. Свитер с номером «23» будет поднят под своды местной ледовой арены, и от ныне он не будет принадлежать никому.

Похоронен в городе Злин (Чехия)