Terkuaknya aksi ”jalan-jalan” Gayus Tambunan harus dijadikan momentum membenahi sekaligus menertibkan lembaga pemasyarakatan. Hal itu juga dapat digunakan untuk menertibkan rumah tahanan dan cabang rumah tahanan di luar Kementerian Hukum dan Hak Asasi Manusia.
Hingga saat ini masih ada praktik penyimpangan di lembaga-lembaga tersebut. Kasus yang paling menghebohkan adalah pengakuan Gayus Tambunan, bekas pegawai Direktorat Jenderal Pajak, yang keluar dari Rumah Tahanan Brigade Mobil Kepolisian Negara RI pada 5-6 November 2010.