Piastował różne urzędy cywilne, aż doszedł do stanowiska prefekta (namiestnika) Rzymu, znajdującego się wtedy pod władzą cesarstwa wschodniego (od roku 552). Po czterech latach mądrych i szczęśliwych rządów (571-575) niespodziewanie opuścił tak eksponowane stanowisko i wstąpił do benedyktynów. Własny, rodzinny dom zamienił na klasztor dla dwunastu towarzyszy. Ten czyn zaskoczył wszystkich - pan Rzymu został ubogim mnichem.
Dysponując ogromnym majątkiem, Grzegorz założył jeszcze 6 innych klasztorów w swoich dobrach na Sycylii. W cieniu słynnego później opactwa św. Andrzeja na wzgórzu Celio trwał na modlitwie i poście.
W roku 577 papież Benedykt I mianował Grzegorza diakonem Kościoła rzymskiego, a w roku 579 Papież Pelagiusz II uczynił go swoim apokryzariuszem, czyli przedstawicielem na dworze cesarza wschodniorzymskiego.
7 lutego 590 r. zmarł Papież Pelagiusz II. Na jego miejsce lud, senat i kler rzymski jednogłośnie, przez aklamację, wybrali Grzegorza.
Pontyfikat Grzegorza trwał 15 lat. Zaraz na początku swoich rządów Grzegorz nadał sobie pokorny tytuł, który równocześnie miał być programem jego pontyfikatu: servus servorum Dei - "sługa sług Bożych". Do ówczesnych patriarchów Konstantynopola, Antiochii, Jerozolimy i Aleksandrii skierował wysłanników z zawiadomieniem o swoim wyborze w słowach pełnych pokory i przyjaźni, czym pozyskał sobie ich miłość. Codziennie głosił słowo Boże.
Przy bardzo licznych i absorbujących zajęciach publicznych Grzegorz także bardzo wiele pisał. Pozostawił po sobie bogatą spuściznę literacką. Do najcenniejszych jego dzieł należą: Dialogi, Reguła pasterzowania, Sakramentarz, Homilie oraz Listy. Tych ostatnich zachowało się do naszych czasów aż 852. Jest to największy zbiór epistolarny starożytności chrześcijańskiej.
Grzegorz zmarł 12 marca 604 r. Obchód ku jego czci przypada obecnie 3 września, w rocznicę konsekracji biskupiej.
