Головин во втором Азовском походе, командуя авангардом галер, дошел вместе с Петром I по Дону до Азова. Его суда вели поиск неприятеля в море, не пропуская турок в крепость.
В 1697 году Федор Алексеевич стал начальником Оружейной палаты, а затем и участником Великого посольства, с которым Петр I отправился за границу. Второй посол (первым был Лефорт), сибирский наместник и генерал-комиссар Головин, вел основную дипломатическую работу.
Одновременно он занимался и делами морскими. Особенно Головин добивался, чтобы на службу приняли опытного моряка Корнелия Крюйса, который помогал послу нанимать офицеров в Голландии. Вице-адмирал К. Крюйс и другие нанятые тогда специалисты стали инструкторами будущих российских флотоводцев. 11 декабря 1698 года в Москве был учрежден «Приказ воинского морского флота» – Головин вступил в управление этим приказом (он отвечал за служащих в русском флоте иностранцев) и монетным двором.
Петр учредил первый в России орден Св. Андрея Первозванного. 10 марта 1699 года Ф. А. Головин стал первым кавалером этого ордена. А 21 апреля 1699 года после смерти адмирала Ф. Я. Лефорта царь произвел Федора Алексеевича в адмиралы.
Головин был одним из немногих, знавших план царя о войне со Швецией и взятии Нарвы. Но, чтобы начинать войну на севере, следовало освободиться от угрозы с юга. Было решено продемонстрировать силы флота, построенного в Воронеже. Неожиданное появление грозной эскадры у Керчи и салют посольского корабля вблизи стен дворца султана показали, что Россия способна за короткий срок создать флот, по численности не уступавший турецкому. Демонстрация возымела действие: Турция подписала договор, по которому уступила России Азов и его окрестности.
23 февраля 1700 года, оставив звания ближнего боярина, адмирала и наместника Сибири, Петр I назначил Головина президентом Посольских дел и начальником нескольких приказов.
Распуская стрелецкое войско, царь формировал регулярную армию. Комиссию по набору, комплектованию и обучению в Преображенском возглавил Ф. А. Головин. К весне 1700 года были собраны и подготовлены 27 пехотных и 2 драгунских полка. Вооружили их фузеями и мушкетами, которые Головин закупал за границей. 14 января 1701 года в Москве была основана школа «математических и навигацких» наук; ее начальником царь назначил Головина.
30 мая 1702 года Головин с царской свитой приехал в Архангельск. Готовилась необычная операция. 6 августа русская эскадра во главе с адмиралом отправилась к Соловецким островам, а затем к деревне Нюхче, откуда начиналась «Государева дорога». По этой дороге войска протащили к Онежскому озеру 2 судна, которые использовали для взятия крепости Нотебурга. Головин участвовал в осаде.
Основной деятельностью Ф. А. Головина оставалась дипломатия. 28 июня 1703 года он заключил договор с литовским послом о выступлении Литвы против Швеции. Когда французское правительство добивалось союза с Россией против Австрии, Головин доказал царю, что нет смысла нарушать дружбу с Австрией, Польшей, Англией, Данией, Пруссией