Ce premier voyage en Italie de 1719 à 1720 se révèle très formateur. Il y découvre le travail des plus grands savants et collectionneurs italiens de l'époque: Anton Maria Zanetti, Lamberto Gori, Giovanni Bottari,... C'est lors de ce tour qu'il achète les premiers dessins de grands maîtres italiens pour sa collection personnelle. Les origines en sont prestigieuses (Vasari).

De retour à Paris en 1720 , Mariette se rend fréquemment au domicile de Pierre Crozat pour assister à des assemblées réunissant le comte de Caylus, Jean de Julienne, Antoine Watteau et bien d'autres personnages du monde de l'art. C'est l'occasion pour Mariette de parfaire ses connaissances. Durant cette période, il entretient une correspondance régulière avec les historiens et collectionneurs rencontrés en Italie.

De 1720 à 1750 , Pierre-Jean Mariette continue son activité de libraire-éditeur. Une vaste connaissance de l'histoire de la gravure et un intérêt certain pour cet art l'incite à annoter son exemplaire daté de 1719 du Livre Abecedario Pittorico du Père Orlandi, publié en 1704. Ses notes manuscrites sont aujourd'hui nommées l' Abécédario de P-J Mariette. Celles ci ont été en partie publiées par le Marquis de Chennevières et Monsieur de Montaiglon de 1851 à 1862 sous le titre Abécédario de P-J Mariette et autres notes inédites de cet amateur . Elles sont une mine d'informations sérieuses et précises sur l'histoire des arts et leur évolution. Parallèlement, il publie des articles, écrits sur l'art et parfois répond aux polémiques de l'époque, la plus célèbre ayant donné lieu à la querelle sur le rôle de la Grèce antique sur la civilisation romaine avec Giovanni Piranese. En 1726, il écrit une lettre sur Léonard, éditée en 1730, comme préface au Recueil de Testes de Caractère & de Charges dessinées par Léonard de Vinci Florentin & gravées par M. le C.(omte) de C.(aylus) . Ces dessins de Vinci appartenaient à la collection du père de Mariette, Jean.

En 1741 , il réalise le catalogue de la vente après décès de Crozat, ouvrage qui illustre parfaitement la rigueur et la méthode de travail de Mariette. Ce dernier a servi de référence à ses contemporains. En 1744, il rédige dans la même veine le Recueil d'Estampes d'après les tableaux ... à Aix dans le cabinet de M. Boyer d'Aiguilles. Enfin, vers 1747, il se plonge dans son Traité des Pierres gravées , qu'il considère comme le premier chapitre de son Histoire de la Gravure. Il parut en 1750 en deux volumes illustré des dessins d'Edme Bouchardon.

En 1750 , Mariette se retire des affaires en vendant son imprimerie à Louis-François Delatour. Il se consacre dès lors à ses recherches et à sa collection. Mariette avait hérité d'un riche ensemble d'estampes formé par ses grand-père et père, qu'il complètera par nombre de dessins.

Pierre-Jean Mariette meurt le 10 septembre 1774 , rue Saint-Jacques à son domicile parisien. Ses qualités d'amateur avaient été reconnues de son vivant, dès 1733, en tant que membre de l'Académie du Dessin de Florence grâce à son ami Gaburri, alors Président de l'Académie. En France, en 1750, il est reçu comme "associé libre" à l'Académie Royale de Peinture et de Sculpture de Paris et devient en 1767 un des premiers non aristocrates à en recevoir le titre de membre honoraire.