Первые планы по строительству мечети Ар-Рахма появились еще в далеком 1897 году. Но в то время мусульмане, проживающие в Киеве, смогли создать только дом молитвы. Это был лишь временный вариант  т.к. планировалось создать мечеть на 800 верующих, но Первая мировая война и многие другие события постоянно мешали строительству.

Следующая попытка возвести мечеть, была организована только в 1991-м году.  Ар-Рахма – первая мечеть в Киеве. Мечеть занимает площадь 3200 кв. м., а высота минарета – 27 метров.

В 1996-м году Духовное Управление мусульман Украины смогло получить разрешение на выделение киевской земли под строительство мечети и дальнейшее обслуживание мемориально-молитвенного здания.

Строительство было организовано благодаря спонсорской поддержке мусульман столицы.  Происходило воздвижение мечети поэтапно. После завершения первого этапа в 1998 году, на территории мечети стали проводится молитвы  каждую пятницу и по праздникам.

Ар-Рахма означает «Милосердие». В 2000-м году на  куполе был установлен полумесяц, и начиная с того дня, мечеть приветствует своих прихожан ежедневно.

В начале 2004-го года было решено создать единый Исламский комплекс. В его состав планируется включить корпус ДУМУ, Медресе (классы для обучения), мечеть Ар-Рахма, минарет (башня для созыва на молитву). Архитектором проекта выступает Заслуженный архитектор Украины  Александр Владимирович Комаровский, именно по его проекту производилась реконструкция Площади Независимости.

Торжественное открытие мечети состоялось 2 декабря 2011 года. На церемонии открытия присутствовали депутаты Верховной Рады, представители правительства Украины, иностранные послы, а также многие гости и обычные мусульмане, для которых этот день вошел в историю навсегда. Открывал церемонию шейх Ахмед Тамим, председатель Духовного управления мусульман Украины, выступив с речью к приглашенным и братьям-мусульманам.

Также свои поздравления мусульманской общине выразили Анна Герман и Михаил Кулиняк, а также было зачитано поздравление от президента Чеченской республики Рамзана Кадырова.