AK jest uważana za najlepiej zorganizowane podziemne wojsko działające w okupowanej przez Niemców Europie. Latem 1944 r. jej struktury liczyły ok. 400 tys. żołnierzy.
Armia Krajowa była kontynuacją zawiązanej w nocy z 26 na 27 września 1939 r. przez grupę wyższych rangą oficerów z gen. Michałem Karaszewiczem-Tokarzewskim, przy współudziale prezydenta Warszawy Stefana Starzyńskiego, konspiracyjnej organizacji Służba Zwycięstwu Polski. Stała się ona zalążkiem struktur cywilnych i wojskowych Polskiego Państwa Podziemnego.
Decyzja o powstaniu AK była podyktowana koniecznością scalenia polskich konspiracyjnych oddziałów zbrojnych i podporządkowania ich rządowi RP w Londynie, któremu podlegały Siły Zbrojne RP. W zamierzeniach rządu miała być organizacją ogólnonarodową, ponadpartyjną, a jej Komendant Główny jedynym, upełnomocnionym przez rząd dowódcą krajowej siły zbrojnej. Głównym zadaniem AK było prowadzenie walki o odzyskanie niepodległości przez organizowanie i prowadzenie samoobrony oraz przygotowanie armii podziemnej na okres powstania, które miało wybuchnąć na ziemiach polskich w okresie militarnego załamania Niemiec.
Formalna zmiana nazwy nie oznaczała, że przez kolejne dwa lata Armia Krajowa ujawniała się i używała oficjalnie swojej nowej nazwy; zastępowano ją kryptonimem PZP, stosowanym od kwietnia 1942 r. aż do maja 1944 r. Dopiero w czasie realizacji planu „Burza” i nadawania ujawniającym się oddziałom podziemnej armii nazw dywizji i pułków Wojska Polskiego z 1939 r. zaczęto używać określenia Armia Krajowa.
W prasie podziemnej i codziennym działaniu mówiono o „Polsce Walczącej” lub „Polsce podziemnej”. O tym, jak należy rozumieć te pojęcia, pisał autor „Kamieni na szaniec”, szef Biura Informacji i Propagandy Komendy Okręgu Warszawskiego AK Aleksander Kamiński, w „Biuletynie Informacyjnym” z września 1943 r.: „W walce jest dziś drukarz tajnej drukarni i młody chłopak wiejski wywieziony do Niemiec na roboty, i matka jedynego syna męczonego w kaźni obozowej: w walce jest łączniczka niosąca pocztę i chłop zamojski niszczony w dziki sposób; w walce jest uczestnik akcji bojowej, w walce jest wreszcie żona rezerwisty w niewoli, która bohatersko zmaga się o byt swoich dzieci. Polska Walcząca – to my wszyscy”. Żołnierzami Armii Krajowej byli zaś ci, którzy składali przysięgę na „wierność Prezydentowi Rzeczypospolitej Polskiej i rozkazom Naczelnego Wodza”. Jej rotę ustalono ostatecznie w grudniu 1942 r. Padające w niej sformułowania miały na celu podkreślenie, że Armia Krajowa jest działającą w kraju integralną częścią Sił Zbrojnych. „Przyjmuję cię w szeregi Armii Polskiej walczącej z wrogiem w konspiracji o wyzwolenie Ojczyzny” – stwierdzał przyjmujący przysięgę.
Kolejnymi dowódcami AK byli generałowie: Stefan Rowecki, ps. Grot – do 30 czerwca 1943 r., Tadeusz Komorowski, ps. Bór – do 2 października 1944 r., Leopold Okulicki, ps. Niedźwiadek – do 19 stycznia 1945 r.
Liczba zaprzysiężonych żołnierzy AK wynosiła na początku 1942 r. ok. 100 tys., a latem 1944 r. już ok. 400 tys., w tym: ok. 10,8 tys. oficerów, 7,5 tys. podchorążych i 87,9 tys. podoficerów. Kadra AK rekrutowała się z oficerów i podoficerów armii przedwrześniowej oraz z absolwentów tajnych Zastępczych Kursów Szkoły Podchorążych Rezerwy i Zastępczych Kursów Podoficerów Piechoty, a także przerzucanych do kraju oficerów, tzw. cichociemnych. Od 1943 r. w jednostkach podporządkowanych Komendzie Głównej AK tworzono kompanie i bataliony, od 1944 r. – pułki, brygady, dywizje, zgrupowania pułkowe i dywizyjne.
Żołnierze AK byli prześladowani przez władze komunistyczne, zwłaszcza w okresie stalinizmu, wielu z nich skazano na karę śmierci lub wieloletniego więzienia.
