Kolem roku 1700 přibyl na Hradčany řád voršilek, který si postavil vlastní klášter, tímto druhý v Praze. Sestra jedné z místních řeholnic Anny Johanky byla Terezie Veronika Krebsová, která později sehrála důležitou úlohu v průběhu kanonizace sv. Jana Nepomuckého. Při soudním řízení odpřisáhla, že se v klášteře roku 1701 po modlitbě ke sv. Janovi zázračně uzdravila. Byl to vůbec první ze čtyř zázraků, které měl sv. Jan vykonat. Bylo proto rozhodnuto o výstavbě nového kostela, který by nahradil stávající kapli sv. Anny a byl by zasvěcen právě sv. Janovi Nepomuckému. Stavba byla zahájena 20. října 1720, položením základního kamene. Zpočátku vedl stavbu pražský architekt Kryštof Dientzenhofer. Ten však roku 1722 zemřel a práci převzal jeho syn Kilián Ignác. Byla to první sakrální stavba tohoto architekta. Kostel byl dokončen v roce 1728, rok před kanonizací sv. Jana Nepomuckého. Slavnostní vysvěcení provedl pražský arcibiskup František Ferdinand z Kuenburgu až roku 1729.
Klášter voršilek se během své dlouhé historie neustále potýkal s finančními problémy. Dvakrát musely voršilky platit výpalné – nejprve Švédům a poté Prusům. V roce 1784 byl zchátralý klášter v rámci církevních reforem císaře Josefa II. zrušen a 34 sester voršilek se přestěhovalo do druhého kláštera voršilek na Nové Město. Do roku 1861 budova sloužila jako sklad soli, vnitřní vybavení bylo rozprodáno. Například vzácný Reinerův obraz z hlavního oltáře Apoteóza sv. Jana, na němž je světec znázorněn s Pannou Marií, Ježíškem a svatou Annou, oslavován světicemi Anežkou Římskou, Cecílií, Barborou, Agátou, Voršilou, Angelou Merisi a bl. Zdislavou z roku 1727 se dostal do Severočeského muzea v Liberci.
Po roce 1861 se kostela ujali pražští evangelíci a sloužil jako vojenský pro posádku z kasáren na Pohořelci.
V roce 1902 byl chrám navrácen zpět katolické církvi, zdokumentován a adaptován. Bylo do něj instalováno historické vybavení z barokního kostela sv. Vojtěcha u Prašné brány, zbořeného kvůli výstavbě Obecního domu. Po druhé světové válce, respektive po komunistickém převratu v roce 1948 byl kostel zrušen, vzápětí ho však církev získala zpět a přeměnila na arcibiskupský. V 70. letech 20. století byl doplněn oltář a ambon podle návrhu sochaře Karla Stádníka.
1.září 2001 byl kostel rozhodnutím pražského arcibiskupa propůjčen armádě pro potřeby Duchovní služby Armády České republiky. Vojenský kostel sv. Jana Nepomuckého pro svou architektonickou unikátnost patří mezi pražské barokní stavby vyhledávané nejen odborníky, ale i turisty.