Kriminalvården har sina historiska rötter i den äldre fångvården som under lång tid sorterade under Kungliga Fångvårdsstyrelsen, vilken bildades på Stockholm under Oscar I:s regeringstid år 1855. Före denna tid präglades straffutmätningen av kroppsstraff, skamstraff och det så kallade Smedjegården eller andra mindre ordnade förvaringsplatser, men under 1800-talet växte en strävan fram att reformera fångarna genom arbete och kristen sedelära efter inspiration från England och USA.

Den moderna myndigheten i sin nuvarande form etablerades i samband med den stora fängelsereformen år 1974, då fokus lades om från ren förvaring till rehabilitering, humanitet och att förbereda den intagna för ett liv utan kriminalitet efter frigivningen. Verksamheten kom därmed att vila på tre huvudsakliga pelare: anstaltsorganisationen, häktena för personer som är misstänkta för brott, samt frivården som övervakar dömda i frihet.

Arkitekturen hos myndighetens anläggningar har skiftat dramatiskt genom århundradena, från de slutna, stränga panoptikon-inspirerade fängelsebyggnaderna i Mariestad och Långholmen till dagens mer säkra, men funktionsanpassade institutioner. Byggnaderna har ofta uppförts som monument över statens mötande av avvikelse, där säkerhetsklasserna sträcker sig från slutna anstalter till öppna anstalter med frigång.

Idag arbetar myndigheten aktivt med att bryta den onda cirkeln av brottslighet genom utbildning, missbruksvård och sysselsättning under verkställigheten. Genom nära samarbete med andra aktörer i samhället strävar Kriminalvården efter att upprätthålla rättssäkerheten i enlighet med svenska lagar och internationella konventioner.