Став шамхалом Тарковским, в сороковые годы  XIX века Абу- Муслим решил построить дворец на вершине неприступной скалы Кала в Кафыр-Кумухе. Дворец состоял из 42 комнат, к нему вел эстакадный мост протяженностью 100 метров, располагался на восточной стороне селения, и фаэтоны поднимались на скалу со всем экипажем.

Два двора предназначались для знати и для прислуги. После смерти Абу-Муслима его сын Шамсутдин-Хан со своей семьей в 1867 году переехал жить в Темир-Хан-Шуру. С того дня крепость осиротела. Прекрасный дворец Абу-Муслима был разрушен в 1915 году при строительстве железнодорожной ветки Порт Петровск – Темир-Хан-Шура. Это великолепное здание, сотворенное руками талантливых дагестанских зодчих, исчезло, будто никогда и не существовало. На сегодняшний день и скала под воздействием эрозии практически разрушилась.