Budova synagogy byla postavena v letech 1871-1872 stavitelem Ernestem Latzelem v novorománském slohu, s interiéry v maurském stylu, inspirovaném stavbami sefardských Židů. Stavba je dokladem prosperity místní židovské komunity, z jejichž řad vzešla řada podnikatelů a osobností. Objekt synagogy přestal sloužit k bohoslužbám v závěru roku 1938, po obsazení Krnova německou armádou. Jako jedna z mála synagog v regionu byla krnovská synagoga uchráněna před zničením v době nacistické okupace.
V roce 2019 se Krnovská synagoga, společně s dalšími devíti objekty v rámci projektu 10 hvězd, stala součástí Evropských cest židovského kulturního dědictví. V současné době je poslední činnou synagogou na severní Moravě a ve Slezsku, kde se pravidelně konají šábesové bohoslužby a slaví židovské svátky.