встретил одного инока по имени Герман, который ранее жил с преподобным Савватием на Соловецком острове. Герман рассказал Зосиме о жизни Савватия и о Соловецком острове. Узнав, что этот остров удален от мирских селений и представляет очень удобное место для поселения иноков, Зосима обрадовался и просил Германа довести его до этого пустынного острова и научить его там иноческому житию.
Они отправились вместе по Белому морю в ладье на Соловецкий остров и благополучно достигли его. Долго ходили они по острову, выбирая место для обители, и, наконец, остановились неподалеку от кирной. Поставив здесь себе палатку, они совершили в ней всенощное бдение. Это было в 1429 году.
На следующее утро, когда Зосима вышел из палатки, он увидел над избранным для обители местом необыкновенный свет, а на востоке – как бы церковь в облаках. Смущенный увиденным, он поспешил в палатку. Старец Герман заметил изменившееся лицо его и спросил: «Что случилось с тобой, брат мой, и почему ты изменился в лице? Разве ты увидел что-либо необыкновенное?» Зосима рассказал о увиденном и, в свою очередь, узнал от Германа, как еще при игумене Савватии чудесно прогнаны были с этого места мирские люди, потому что оно предназначено для пребывания иноков. Зосима исполнился духовной радости и еще более укрепился в намерении основать на этом месте обитель.
Испросив в молитве помощи у Бога, Зосима и Герман принялись за устройство монастыря. Они рубили деревья и строили кельи, обнося их оградой. Подвизаясь в телесном подвиге, они не забывали и духовных трудов, но постоянно пребывали в молитвенном настроении и посте.
Спустя некоторое время (в 1435 году) Герман отправился с острова на материк для того, чтобы запастись хлебом. Но когда он собирался уже вернуться в ладье на Соловецкий остров, поднялись сильные ветры, пошел снег, и на Белом море в волнах показались льдины. Вернуться в ладье на остров не было никакой возможности, и Герман принужден был остаться на Сумском берегу на всю зиму.
Преподобный Зосима, оставшись одиноким, сначала сильно скорбел по Германе, но потом возложил все свое упование на Господа и удвоил свои телесные и духовные подвиги. В это время его стали смущать духи злобы. Они поднимали на него брань, домогаясь его удаления с этого места. Но преподобный, ограждая себя крестным знамением, говорил: «О, ничтожная сила вражия! Если вам дана от Бога власть надо мной, то поступайте со мной, как хотите; но если вы этой власти не имеете, то напрасно трудитесь», – а затем пел 67 псалом: «Да воскреснет Бог, и расточатся врази Его». Зосима молился Господу, чтобы Он избавил его и сохранил невредимым от наветов диавола, и призраки исчезли. Вскоре после этого Зосиму стала смущать мысль о предстоящем голоде. Еще продолжалась суровая зима, а запас хлеба, собранного летом, уже приходил к концу. Однако Зосима вспомнил евангельские слова Господа, говорившего: не заботьтесь о том, что есть и пить, но ищите прежде всего Царствия Божия, и все остальное приложится вам. Возложив все упование на Господа, св. подвижник стал отгонять от себя всякое уныние.