本監成立於民國39年1月14日，原設在臺東市復興路1號，43年7月1日遷至廣東路317號，為重刑及普通犯監獄，收容臺灣臺東地方檢察署檢察官指揮執行之男性及女性受刑人。

53年因應地方需求，致力監外作業，於鹿野從事河川地開墾，60年7月1日改名為｢臺東外役監獄」，65年7月1日因將臺東外役監獄「武陵農場」改為「臺灣武陵外役監獄」，本監名稱又改回「臺灣臺東監獄」，並自民國90年10月22日起兼辦「臺東看守所」、「臺東少年觀護所」、「附設勒戒處所(112年9月15日起專收女性勒戒人)」業務，另於臺東戒治所設置臺東分監，核定容額1,083人。100年1月1日法務部矯正署成立，本監名稱由「臺灣臺東監獄」更名為「法務部矯正署臺東監獄」。

110年12月10日司法院大法官釋字第812號解釋宣告強制工作違憲，各技能訓練所不再收容受強制工作處分人，加速矯正署推動東部地區矯正機關組織調整與改制，112年9月15日起裁撤岩灣技能訓練所，並將本監遷至岩灣技能訓練所原址(興安路二段642號)，機關占地面積由原先的0.9公頃提升至10.8公頃，疏緩原先擁擠之收容空間，並有效利用寬敞的技能訓練場域，提供多元的技訓課程並優化收容環境與文康活動，增進矯治處遇之成效。