Najstarsze źródła kronikarskie podają, iż w roku 1812 z inicjatywy SS. Norbertanek, powołano do życia "szkołę ludową" na Półwsiu Zwierzynieckim. W 1875 r. poświęcono nowy (dziś już nieistniejący) budynek szkoły, mieszczący się przy ulicy Kościuszki, a w 1896 r. miało miejsce uroczyste poświęcenie sztandaru. W dwa lata później nadano szkole imię Adama Mickiewicza. W 1910 r. nadano jej rzymski numer XXXI. Z czasem numeracja ta przerodziła się w numerację arabską i tak pozostało po dzień dzisiejszy.
W lipcu 1911 r. zaczęto budowę nowego gmachu przy ul. Słonecznej 18 (dzisiejszej Bolesława Prusa), którą ukończono w roku 1912. Szkole nadano imię nowego patrona Adama Asnyka.
W dniu 13 VI 1914 r. szkoła otrzymała imię dr. Henryka Jordana nadane przez Radę Miasta Krakowa. Imię to szkoła zachowała do dziś.
18 maja 1947 r., w 162 rocznicę istnienia szkoły, nastąpiło uroczyste nadanie sztandaru Szkole Podstawowej nr 31.
W 1999 r. w budynek wmurowano kamień węgielny, a w roku 2000 odbyło się uroczyste otwarcie dobudowanej sali gimnastycznej. W rok później do użytku uczniów została oddana pracowania komputerowa, w której prowadzone są różnorodne zajęcia edukacyjne.
Więcej szczegółów z historii szkoły wraz z materiałem zdjęciowym można przeczytać i obejrzeć przeglądając dwie publikacje:
- Przyczynki do Dziejów Szkoły - powstałe głównie z relacji i materiałów zdjęciowych naszych znakomitych absolwentów.