Après l'Ascension de Jésus, Jean restera avec Marie pendant une vingtaine d'année. De 30 à 36, après la Pentecôte, Jean, qui n'a que 20 ans, est très proche de Pierre, qu'il seconde lors de la première évangélisation de Jérusalem, comme on le voit dans les Actes des Apôtres, en restant silencieux, comme son caractère et son jeune âge l'y inclinent, jusqu'à ce que la persécution qui suit la révocation de Ponce Pilate oblige les Apôtres à s'en aller. C'est certainement dès 37 que Jean part avec la Vierge Marie pour s'établir à Ephèse, comme en témoigne une tradition locale solide, rappelée en 431 par la lettre officielle que les Pères du Concile d'Ephèse envoyèrent à Nestorius. Toutefois, ce ne sera pas Jean et Marie qui fonderont l'Eglise à Ephèse mais Paul, qui le fera 17 ans plus tard lorsqu'il viendra pour 2 ans sur place. Alors que tous les Apôtres mettent à profit la dispersion pour fonder des Eglises et répandre la Bonne Parole, Jean et Marie restent discrets, à l'écart. Comment se l'expliquer ? Il semble que Jean et Marie aient inauguré à Ephèse un genre de vie nouveau, sans apostolat direct, dans le silence et la prière. En reprenant les termes de l'Apocalypse, « la Femme poursuivie par le Dragon s'est enfuie au désert où Dieu lui a préparé une place » et, c'est dans ce désert de la vie cachée que Dieu va la nourrir pendant quelques années. Jésus à confié Jean à la Vierge Marie pour qu'il soit comme son fils et la Vierge obéissante va lui faire vivre à Ephèse ce qu'elle a fait vivre à Jésus à Nazareth, en le faisant grandir de la même manière, comme pendant les 30 années de vie cachée à Nazareth. La « Maison de Marie » à Ephèse constitue en quelque sorte le premier monastère où Jean va prendre le temps d'approfondir puissamment le mystère du Christ, avec Marie, dans une vie de silence, de prière et de contemplation. Ce temps de désert aura une immense postérité dans l'Eglise mariale, l'Eglise des religieux et religieuses, centrée sur la vie de prière, la contemplation et l'approfondissement du mystère du Christ, loin du monde, dans le silence d'une vie cachée comme l'écho de ce qu'ont vécu Marie et Jean. Les premiers moines appelaient Jean leur « père », comme un disciple d'Evagre le Pontique le mentionne, et Epiphane de Salamine confirme qu'ils se réunissaient « pour imiter la vie de Marie et Jean à Ephèse » (règle monastique des Agapètes). Par la suite, Saint Augustin et beaucoup d'autres verront en Saint Jean le modèle de la vie contemplative : « Jean est à l'origine de notre plus haute spiritualité. Comme lui, les "silencieux" connaissent ce mystérieux échange de c?urs, invoquent la présence de Jean et leur coeur s'enflamme » (Athenagoras, Patriarche ?cuménique de Constantinople).