И.И. Бризгин с предписанием: «Возвести к зиме 1803 года укрепление у «ключа кислого». К счастью, при секретариате главнокомандующего оказался штатский, ведающий гражданскими делами Алексей Фёдорович Ребров, который знал регион «кислых вод». К нему и обратился генерал Бризгин за советом и помощью. Вместе они объехали и осмотрели прибрежные высоты, посовещались и решили строить крепость на плато, круто обрывающемся над долиной Ольховки.
К означенному в приказе сроку здесь была построена крепость с толстенной круглой башней и с бойницами, с особняком коменданта, со штабом, домом для офицерского состава, казармой для солдат, конюшнями и прочими подсобными помещениями.
Крепостной двор с открытой северо-западной стороны был огорожен крутым земельным валом и глубоким рвом. Двое крепких ворот тоже служили надёжной защитой от постоянных вылазок немирных горцев.
Дальновидный и практичный Ребров, оценив необыкновенную красоту местности, охмеляющий чистый воздух и легендарную славу «богатырского источника», позаботился и о себе лично. Облюбовав площадку на каменистом склоне Ольховки, почти рядом с источником нарзана, он забил первый кол для своей будущей усадьбы.
Вскоре, получив на то разрешение главнокомандующего, Алексей Фёдорович приступил к строительству своего дома, не сомневаясь, что со временем вокруг него поднимутся другие дома.
Когда строительство укрепления было окончено, в нём был оставлен гарнизон в составе двух рот. Комендантом крепости стал майор князь Ураков. В составе гарнизона были солдаты разных возрастов, в том числе и «старики», двадцатипятилетняя служба которых близилась к концу.
С радостью считали они дни окончания нелёгкой службы, мечтая о своём возвращении к родным и близким. Но не суждено было сбыться их мечтам. Буквально накануне истечения срока службы «стариков» пригласил комендант крепости и ознакомил их с приказом главнокомандующего. В нём говорилось о том, чтобы демобилизованных солдат и унтер-офицеров не возвращать на места бывшего до мобилизации жительства, а оставлять на постоянное поселение при форштадте. При этом для каждого отслужившего выделялось 15 десятин земли для пашен, покоса и пастбища, а также выдавались из казны деньги на постройку домов, приобретение лошадей, коров, овец. Гарнизону крепости предписывалось оказывать помощь поселенцам солдатской слободы в сооружении построек.
Коменданту крепости вменялось в обязанность снабжать нижних отставных чинов провиантом до сбора первого урожая. Кроме того, в приказе был и такой пункт: «Если пожелают переселиться в форштадт престарелые родители, жёны с детьми из внутренних губерний России, выдавать на то дополнительную сумму денег на переезд и добавлять землю соответственно количеству поселившихся душ».
Так рядом с кисловодской крепостью появилась солдатская слобода. Среди первых поселенцев форштадта был унтер-офицер Илья Востряков. Он выбрал для своего двора большой участок на вершине усечённого