O snaze založit v Šumperku okresní archiv se poprvé dovídáme ze zápisů rady okresního národního výboru z roku 1947. Záměr se podařilo realizovat již o rok později; šumperský okresní archiv tehdy představoval jedinou instituci svého druhu na území severní Moravy. Sídlil ve dvou místnostech šumperského (bývalého žerotínského) zámku, kde byl do té doby uložen archiv města Šumperka. Vydáním vládního nařízení č. 29/1954 Sb. se šumperský okresní archiv stal součástí celorepublikové sítě státních archivů. Správcem byl jmenován gymnazijní profesor Jan Dvořák, který tuto funkci vykonával při svém zaměstnání; na plný úvazek byl přijat ředitel archivu až v roce 1957.

V roce 1958 získal archiv vlastní budovu v Kladské ulici (dnešní tzv. Geschaderův dům), kam bylo přeneseno sídlo archivu i dokumenty dříve deponované v šumperském zámku.

Další směřování archivu výrazně ovlivnila změna územní organizace. Když v roce 1960 nabyl platnosti Zákon o územním členění státu (č. 36/1960 Sb.), došlo k rozšíření působnosti šumperského archivu i na bývalé okresy Zábřeh a Jeseník; tamní zrušené archivy se staly jeho pobočkami.

Bez ohledu na vzrůstající objem spravovaných písemností se zhoršoval technický stav budov, které archiv užíval. V důsledku havarijního stavu byl roku 1984 uzavřen objekt archivu v Kladské ulici. Archiválie byly přemístěny do sedmi náhradních depozitářů mimo město Šumperk. Již v roce 1985 byla zahájena výstavba účelové budovy v ulici Bří Čapků. (Jednalo se o první archivní účelovou budovu na Moravě.) Úložná kapacita dokončeného objektu (2200 běžných metrů) se však záhy ukázala jako nedostačující; archiv v té době již spravoval 2500 běžných metrů archiválií. Dokumenty uložené v archivu bylo tedy nutné dále částečně deponovat v jiných objektech, studovna skýtala pouze dvě místa pro badatele.

S očekávaným přílivem písemností po roce 1990 se stalo prvořadým úkolem zajistit pro archiv dostatečnou kapacitu úložného prostoru. Proto byly v srpnu roku 1995 zahájeny práce na přestavbě a přístavbě budovy Státního okresního archivu Šumperk v ulici Bří Čapků. Alespoň k částečnému uvolnění úložných prostor došlo v červnu 1996, po obnovení okresu Jeseník, kdy byly ze Šumperka delimitovány všechny fondy provenienčně patřící do nově vybudovaného Státního okresního archivu Jeseník. V téže době se pracovníci šumperského okresního archivu přestěhovali do náhradních kancelářských prostor, aby mohly pokračovat stavební práce na přestavbě stávající budovy a zároveň nebyl přerušen provoz archivu. Novostavba, s kapacitou 7 500 běžných metrů, byla dokončena a předána do užívání v dubnu 1998. Objekt plně odpovídá požadavkům dnešního archivnictví.

Významným mezníkem v dalším působení šumperského okresního archivu byl rok 2002. V důsledku územněsprávních reforem, které přinesly mimo jiné zrušení okresních úřadů, se stal Státní okresní archiv Šumperk organizačním článkem Zemského archivu v Opavě.