Swoją młodość Grzegorz spędził w domu rodzinnym na Clivus Scauri, położonym w pobliżu dawnego pałacu cesarza Septymiusza Sewera, Cyrku Wielkiego oraz istniejących już wówczas bazylik – świętych Jana i Pawła, św. Klemensa, Czterech Koronowanych i Lateranu.
Piastował różne urzędy cywilne, aż doszedł do stanowiska prefekta (namiestnika) Rzymu. Po czterech latach mądrych i szczęśliwych rządów (571-575) niespodziewanie opuścił tak eksponowane stanowisko i wstąpił do benedyktynów.
W roku 577 papież Benedykt I mianował Grzegorza diakonem Kościoła rzymskiego, a w roku 579 papież Pelagiusz II uczynił go swoim apokryzariuszem, czyli przedstawicielem na dworze cesarza wschodniorzymskiego. Grzegorz udał się więc w stroju mnicha wraz z kilkoma towarzyszami do Konstantynopola. Spędził tam 7 lat (579-586).
7 lutego 590 r. zmarł Pelagiusz II. Na jego miejsce lud, senat i kler rzymski jednogłośnie, przez aklamację, wybrali Grzegorza. Ten w swojej pokorze wymawiał się. Napisał nawet do cesarza i do swoich przyjaciół w Konstantynopolu, by nie zatwierdzano jego wyboru. Stało się jednak inaczej. 3 września 590 r. odbyła się jego konsekracja na biskupa. Przedtem przyjął święcenia kapłańskie.
Zaraz na początku swoich rządów Grzegorz nadał sobie pokorny tytuł, który równocześnie miał być programem jego pontyfikatu: servus servorum Dei – „sługa sług Bożych”. Do ówczesnych patriarchów Konstantynopola, Antiochii, Jerozolimy i Aleksandrii skierował wysłanników z zawiadomieniem o swoim wyborze w słowach pełnych pokory i przyjaźni, czym pozyskał sobie ich miłość. Codziennie głosił słowo Boże.
Kiedy Bizantyjczycy pokonali Wandalów i zajęli północną Afrykę, tamtejsi biskupi zaczęli dążyć do zupełnej autonomii od Rzymu, co mogło grozić schizmą. Papież energicznie temu zapobiegł. Wielką radość sprawiła mu wiadomość o nawróceniu w Hiszpanii ariańskich Wizygotów, dzięki gorliwości i taktowi św. Leandra (589), z którym św. Grzegorz był w wielkiej przyjaźni.
Najgorzej układały się stosunki Rzymu z Konstantynopolem. Chociaż papież utrzymywał z cesarstwem jak najlepsze stosunki, patriarchowie uważali się za równorzędnych papieżom, a nawet za wyższych od nich właśnie dlatego, że byli biskupami w stolicy cesarzy.
Grzegorz rozwinął owocną działalność także na polu administracji kościelnej. Uzdrowił finanse papieskie, zagospodarował majątki, które służyły na utrzymanie dworu papieskiego. W równym stopniu zasłużył się na polu liturgii przez swoje reformy. Ujednolicił i upowszechnił obrządek rzymski. Dotąd bowiem każdy kraj, a nawet wiele diecezji miały swój własny ryt, co wprowadzało wiele zamieszania.
Przy bardzo licznych i absorbujących zajęciach publicznych Grzegorz także bardzo wiele pisał. Pozostawił po sobie bogatą spuściznę literacką. Do najcenniejszych jego dzieł należą: Dialogi, Reguła pasterzowania, Sakramentarz, Homilie oraz Listy. Tych ostatnich zachowało się do naszych czasów aż 852. Jest to największy zbiór epistolarny starożytności chrześcijańskiej.
Z imieniem św. Grzegorza Wielkiego kojarzy się także tradycyjny śpiew liturgiczny Kościoła łacińskiego – chorał gregoriański, który choć w pełni ukształtował się dopiero w VIII w., to jednak przypisywany jest temu Świętemu.
Święty Grzegorz Wielki Grzegorz zmarł 12 marca 604 r. Obchód ku jego czci przypada obecnie 3 września, w rocznicę konsekracji biskupiej. Jego ciało złożono obok św. Leona I Wielkiego, św. Gelazjusza i innych w pobliżu zakrystii bazyliki św. Piotra. Pół wieku później przeniesiono je do samej bazyliki wśród ogromnej radości ludu rzymskiego. Średniowiecze przyznało Grzegorzowi przydomek Wielki.
