В апреле 1922 года на XI съезде РКП(б) он был избран кандидатом в члены ЦК (апрель 1922–апрель 1923). Одновременно в 1922–1926 годах Рахимбоев являлся членом Реввоенсовета Туркестанского фронта.
Рахимбоев был одним из тех немногих, кто подписал Договор о создании Советского Союза от 30 декабря 1922 года.
Рахимбоев также являлся членом Центральной комиссии по национальному размежеванию Среднеазиатского бюро ЦК РКП(б) – председателем Узбекской подкомиссии. После создания Узбекской ССР он был избран секретарём ЦК КП(б) Узбекистана (декабрь 1923 г.). С мая 1924 по декабрь 1925 г. являлся кандидатом в члены ЦК ВКП(б), в 1924–1926 годах – член Среднеазиатского бюро ЦК РКП(б) – ВКП(б).
С 1924 по 1925 г. Рахимбоев – секретарь Временного организационного бюро ЦК КП(б) Узбекистана, член Революционного комитета Узбекской ССР. В 1926–1928 гг. он находился в Москве в качестве слушателя курсов марксизма-ленинизма. В 1928–1929 гг. Рахимбоев избирается председателем Правления Центрального издательства народов СССР, в 1929–1933 гг. – Председателем Комитета советских национальных меньшинств Народного комиссариата просвещения РСФСР. В 1933–1937 гг. Рахимбоев становится Председателем Совета Народных Комиссаров Таджикской ССР, а с января 1934 года также одним из председателей ЦИК СССР.
Рахимбоев был награжден несколькими орденами, в том числе орденом Ленина и орденом Красного Знамени. Однако, несмотря на все свои звания и ордена, летом, в августе 1937 года, был освобожден от должности председателя СНК Таджикской ССР, исключён из рядов ВКП(б) и арестован в Сталинабаде, а затем заключен в московскую тюрьму в Лефортово. 7 мая 1938 года по приговору Военной коллегии Верховного Суда Рахимбоев был расстрелян в Бутово. А через 18 лет, в 1956 году, он был посмертно реабилитирован и восстановлен в партии.
Абдулло Рахимбоев имел могущественных покровителей и мог бы поставить национальные интересы выше своих личных. Он встречался и с Лениным, а затем, после смерти Ленина, имел поддержку Сталина. Его статус и положение давали возможность праведно служить своей родине. Но он избрал другой путь. Вы, конечно же, скажете, что с высоты сегодняшних лет легко давать оценку лидерам тех очень страшных и судьбоносных лет. Но когда я сравниваю двух лидеров, представителей наших народов, живших почти в одно и то же время и оба имевших самых могущественных покровителей, – Гафурова Бободжона и Рахимбоева Абдулло, то, думаю, имею право быть разочарованным Абдулло Рахимбоевым, человеком, который при всех своих огромных для того времени ресурсах и возможностях все-таки избрал путь предательства интересов своего народа.
Есть много вопросов, касающихся того времени, ждущих до сих пор своего ответа. Однако ответ на один вопрос, почему Сталин поддерживал Абдулло Рахимбоева, ясен, и он может стать ключом, который поможет раскрыть многие другие тайны той эпохи. Думается, основная причина того, что Сталин какое-то время поддерживал Рахимбоева, кроется в том, что Рахимбоев был одним из ключевых представителей Компартии в процессе сталинского размежевания,