Początki naszej szkoły sięgają roku 1903, kiedy to swą działalność rozpoczęła Prywatna Szkoła Żeńska z programem nauk seminaryjnych. Powstała z inicjatywy Wincentego Tyrana, Apolinarego Maczugi i Bronisławy Loschówny. Początkowo mieściła się przy ul. Matejki 24, w kamienicy Brachla. Z powodu przeniesienia Wincentego Tyrana do Mielca, funkcję dyrektora przejął Apolinary Maczuga.

W 1924 roku doszło do kolejnej zmiany i stanowisko Apolinarego Maczugi objął Piotr Zieliński (nauczyciel historii i geografii I Gimnazjum). W roku szkolnym 1925/1926 szkoła przybrała imię Marii Konopnickiej. Uczęszczało do niej 362 uczennic, które uczyły się w 9 oddziałach. Opłata za naukę wynosiła 500 zł rocznie.

W maju 1930 roku odbył się ostatni egzamin maturalny w budynku przy ul. Matejki 24. W grudniu tego samego roku oddano do użytku piętrowy budynek, zaprojektowany przez inż. Józefa Konstańskiego. Budynek nawiązywał do architektury Krakowskiej Szkoły modernizmu. Trudu związanego z budową placówki zadał sobie ówczesny dyrektor - Piotr Zieliński - który stanął na czele stowarzyszenia odpowiedzialnego za powstanie tej placówki oraz ówcześni profesorowie, którzy oddawali 20% swojej pensji na cele budowy.

Dyrektor Piotr Zieliński w dowód uznania za pracę społeczną i pedagogiczną został oznaczony Krzyżem Kawalerskim Orderu Polonia Restituta. Kolejne prace przy budowie gmachu miały miejsce w latach 1936-1939 i kierował nimi architekt Zenon Remi. W 1936 r. budynek został przejęty przez Gimnazjum Żeńskie, które również przyjęło imię Marii Konopnickiej. Ustawa ta dzieliła szkołę średnią na czteroklasowe gimnazjum, które kończone było "mała maturą" i dwuletnie liceum ogólnokształcące lub trzyletnie zawodowe. Było to powodem zlikwidowania Seminarium Nauczycielskiego Żeńskiego. Na jego miejsce powstało Gimnazjum Żeńskie z klasami typu humanistycznego.

7 maja 1937 roku dyrektor Zieliński otrzymał zgodę od władz kuratorium na utworzenie Liceum Ogólnokształcącego typu przyrodniczego i humanistycznego. Już wtedy szkoła słynęła z miłych i serdecznych stosunków wśród uczennic i grona pedagogicznego. Miała Także opinię bardzo dobrej szkoły, w której uczennice z powodzeniem zdawały egzamin dojrzałości. Patriotyczna postawa kształtowana była poprzez udział we wszystkich uroczystościach państwowych i narodowych, urządzanie akademii i obchodów w auli szkoły. Uczennice były zobowiązane do noszenia granatowych mundurków z marynarskim kołnierzem, spódniczek i granatowych beretów z litera "S" (Gimnazjalistki miały literę "G") Na nogach musiały mieć grube pończochy w prążki.

Rok szkolny 1939/1940 był tragiczny dla naszej szkoły. We wrześniu budynek zajęły wojska polskie, a po zajęciu Nowego Sącza przez okupanta, stacjonowały w nim wojska niemieckie. Grabili oni niedawno odnowioną szkołę. Wywieźli sprzęt, wyposażenie gabinetów, w ogrodzie wycięto drzewa, a na boisku szkolnym spalono około 3000 książek z biblioteki. Zajęcia musiały odbywać się na tajnych kompletach. Po wyzwoleniu spod okupacji niemieckiej Prywatne Gimnazjum Żeńskie i Liceum Ogólnokształcące im. Marii Konopnickiej wznowiło naukę 1 lutego 1945 roku pod kierownictwem Piotra Zielińskiego. Rok szkolny trwał do końca lipca 1945 r. Do momentu odbudowy zniszczonej przez wojnę szkoły zajęcia odbywały się w różnych punktach miasta m. in. sali ratuszowej i Sokole. W listopadzie 1945 r. można było rozpocząć naukę w odnowionej szkole, (wtedy ulica nosiła nazwę Morawskiego 2, obecnie Żeromskiego 16).

W roku szkolnym 1946/1947 po odwołaniu Dyrektora Piotra Zielińskiego jego miejsce zajął Franciszek Koszyk. W szkole istniało wiele organizacji, m. in. Harcerstwo, którym opiekowała się Bronisława Szczepańcówna-Komendantka Żeńskiego Hufca Harcerskiego w Nowym Sączu. Istniało Także koło PCK, Koło Krajoznawcze oraz Spółdzielnia Uczniowska. Szkoła znana była w środowisku ze swojej działalności artystycznej. W Liceum istniało także koło dramatyczne i chór. Lecz to harcerstwo najbardziej przyciągało uczniów. W roku szkolonym 1948/49 Prywatne Gimnazjum Żeńskie i LO im. M. Konopnickiej zostało upaństwowione i przekształcone w Państwową Szkołę Ogólnokształcącą Żeńską Stopnia Podstawowego i Licealnego im. M Konopnickiej. Placówką kierowali kolejno: Franciszek Koszyk (1947-1949), Edward Smajdor (1949-1950), Ryszard Gessing (1950-1953) , Antoni Bulanda (od 1953-1969) oraz Bartłomiej Popiela (1969-1979).

W roku szkolnym 1952/53 wprowadzono koedukację i ustalono nazwę - Państwowa Szkoła Ogólnokształcąca Stopnia Podstawowego i Licealnego im. M. Konopnickiej. W latach 1950/51 budowano kort tenisowy, przy szkole działał również internat. Z powodu nadmiernego zagęszczenia uczniów (ok.1000) podjęto decyzję o przeniesieniu szkoły stopnia podstawowego. Od roku szkolnego 1959/60 II LO zaczęło samodzielnie funkcjonować. Z biegiem lat liczba uczniów wzrastała. W roku 1971/72 szkoła powróciła do nauki w trybie dwuzmianowym. W połowie lat sześćdziesiątych dokonano kolejnej modernizacji budynku. We wrześniu 1988 r. w 85 rocznicę swojego istnienia II Liceum było organizatorem XIV Ogólnopolskiego Zjazdu Szkół im. Marii Konopnickiej, Dyrektorem był wtedy Adam Słowik (1979-1991) .Wówczas szkoła otrzymała Złotą Odznakę "Za zasługi dla województwa nowosądeckiego", było to związane z sukcesami młodzieży na tle kulturalnym, sportowym i naukowym.

W latach dziewięćdziesiątych, dyrektorem był wtedy mgr Tadeusz Orlicz (1991-2011), nastąpił dalszy, znaczący wzrost poziomu nauczania. Młodzież odnosiła sukcesy w centralnych finałach olimpiad i konkursów przedmiotowych - szczególnie humanistycznych, a także coraz większa liczba maturzystów dostawała się na renomowane uczelnie w kraju i za granicą. Konsekwencją tego jest zajmowanie bardzo wysokich miejsc w rankingach szkół średnich i nieustanne zwiększanie liczby kandydatów do klas I. Młodzież "dwójki" znana jest z aktywnego uczestnictwa w wielu imprezach kulturalnych, sportowych i charytatywnych. Wraz z nauczycielami organizuje sesje popularnonaukowe o tematyce historyczno-politycznej i społeczno-politycznej zapraszając na nie uczniów ze szkół Sądeckich jak i młodzież spoza Nowego Sącza.

Szkoła rozwija współpracę z X Liceum Ogólnokształcącym we Lwowie na Ukrainie, z prywatnym liceum w La Mennais w Guerande we francuskiej Bretanii ( coroczna wymiana młodzieży) oraz ze szkołą w Niemczech (również coroczna wymiana uczniów). Uczniowie jeżdżą też regularnie do Anglii na wycieczki krajoznawcze połączone z nauką języka angielskiego. Na terenie II LO znajdują się trzy tablice upamiętniające działalność wybitnych nauczycieli pracujących w szkole: dyrektora Piotra Zielińskiego, komendantki Żeńskiego Hufca Harcerskiego Bronisławy Szczepańcówny oraz nauczyciela historii dra Władysława Kruczka.

O 1992 r. II LO jest zrzeszone w Klubie Najstarszych Szkół Polskich (aktualnie Stowarzyszenie na Rzecz Najstarszych Szkół w Polsce). Od 1994r jest członkiem szkół stowarzyszonych w UNESCO. W marcu 2000 roku została wpisana w Waszyngtonie na oficjalną listę Towarzystwa National Geographic - organizacji naukowo-edukacyjnej. Większość nauczycieli pracujących w II Liceum są jego absolwentami. Wielu z nich to autorzy podręczników szkolnych i publikacji w wydawnictwach metodycznych. Są egzaminatorami maturalnymi oraz aktywnie uczestniczą w pracach Polskiego Towarzystwa Historycznego, Polskiego Towarzystwa Matematycznego oraz Polskiego Towarzystwa Turystyczno- Krajoznawczego. Od roku 2011 stanowisko dyrektora piastuje mgr Dorota Smaga. Jest pierwszą w historii szkoły kobietą na tym stanowisku. Przez ten okres czasu szkoła zmieniła nie tylko wygląd, ale też stała się bardziej nowoczesna. Powstała profesjonalna pracownia językowa i sale tematyczne wyposażone w tablice multimedialne. Profile klas zostały zmodyfikowane, a w roku 2012 szkoła miała największy nabór w historii, w związku z czym utworzonych zostało aż 13 klas pierwszych.