Единый орган разведки возглавил В. М. Молотов, бывший в то время заместителем Председателя Совета Министров СССР и одновременно министром иностранных дел. Его заместителем, который занимался участком внешней разведки, был назначен опытный чекист, в прошлом руководивший работой разведывательных и контрразведывательных подразделений органов госбезопасности Петр Васильевич Федотов.
Для руководства разведаппаратами за рубежом в КИ был введен так называемый институт Главных резидентов, которыми, как правило, назначались послы или посланники. Первым таким Главным резидентом стал бывший сотрудник ИНО НКВД Александр Семенович Панюшкин. С ноября 1947 по июнь 1952 года он был послом СССР в США, являясь одновременно Главным резидентом внешней разведки в этой стране.
Однако время показало, что объединение столь специфичных по методам деятельности военной и внешнеполитической разведок в рамках одного органа, при всех преимуществах, затрудняло процесс управления их работой. Уже в январе 1949 года правительство приняло решение о выведении из Комитета информации военной разведки и возвращении ее в Министерство обороны.
В феврале 1949 года Комитет информации был передан под эгиду МИД. Его руководителем стал новый министр иностранных дел А. Я. Вышинский, а позднее – заместитель министра иностранных дел В. А. Зорин. Первым заместителем председателя КИ, отвечавшим за текущую оперативную работу разведки, стал Сергей Романович Савченко, до этого возглавлявший Министерство госбезопасности Украины. В ноябре 1951 года правительство приняло решение об объединении внешней разведки и внешней контрразведки под руководством Министерства госбезопасности и создании за границей единых резидентур. Комитет информации при МИД СССР перестал существовать. Внешняя разведка стала Первым главным управлением Министерства госбезопасности СССР.
В марте 1954 года пленум ЦК КПСС принял развернутое решение о путях улучшения деятельности органов госбезопасности, кардинальной перестройке их работы, искоренении применявшихся ранее незаконных методов, об опоре на общественность, о подконтрольности государственным и партийным органам. Тогда же решением правительства был образован Комитет государственной безопасности при Совете Министров СССР. Внешняя разведка вошла в его состав как Первое главное управление (ПГУ КГБ при СМ СССР).
Важное для разведки значение имело решение ЦК КПСС от 30 июня 1954 года «О мерах по усилению разведывательной работы органов государственной безопасности за границей». Было предложено сосредоточить усилия на организации разведки в главных странах Запада – США и Англии, а также на «используемых ими для борьбы против Советского Союза странах, в первую очередь Западной Германии, Франции, Австрии, Турции, Иране, Пакистане и Японии». Таков в то время был перечень приоритетов, определенных руководством страны.
Совет Министров утвердил Положение о Первом главном управлении КГБ, которое закрепляло