Rumah Tahanan Negara Kelas II A Yogyakarta diresmikan pada tanggal 31 Maret 2009 dengan menempati tanah Sultan Ground yang terletak di Jalan Taman Siswa No 6A Yogyakarta di wilayah Margoyasan PA II/ RT 30 RW 08, Gunung Ketur, Pakualaman Yogyakarta. Berdiri di atas tanah seluas 6.105 m2 yang terdiri dari bangunan gedung seluas 3.620 m2 dan halaman seluas 2.485 m2.
Dalam Peraturan Menteri Hukum dan Hak Asasi Manusia Republik Indonesia Nomor 33 Tahun 2015 BAB I Pasal 1 ayat 2, dijelaskan bahwa Rumah Tahanan Negara yang selanjutnya disebut Rutan adalah tempat tersangka atau terdakwa ditahan selama proses penyidikan, penuntutan, dan pemeriksaan di sidang pengadilan. Proses penyidikan, penuntutan, dan pemeriksaan tersebut dilakukan di Pengadilan Negeri, Pengadilan Tinggi, dan Mahkamah Agung. Rutan merupakan Unit Pelaksana Teknis dari Direktorat Jenderal Pemasyarakatan, di bawah Kementerian Hukum dan Hak Asasi Manusia Republik Indonesia. Rutan didirikan di tiap ibukota, kabupaten, atau kota, dan apabila perlu dapat dibentuk pula Cabang Rutan. Petugas yang ada di Rumah Tahanan Negara adalah Pegawai Negeri Sipil yang melaksanakan tugas di bidang pemasyarakatan, yang disebut dengan Petugas Pemasyarakatan.
Rumah Tahanan Negara Kelas IIA Yogyakarta merupakan salah satu Unit Pelaksana Teknis Pemasyarakatan di lingkungan Kantor Wilayah Kementerian Hukum dan HAM Daerah Istimewa Yogyakarta yang beralamatkan di Jalan Taman Siswa No. 6A, Gunungketur, Pakualaman, Kota Yogyakarta, Daerah Istimewa Yogyakarta, 55166. Warga Binaan Pemasyarakatan (WBP) yang ada di Rutan Kelas IIA Yogyakarta terdiri atas Narapidana dan Tahanan. Narapidana adalah terpidana yang menjalani pidana hilang kemerdekaan (Permenkumham No. 33 Tahun 2015 BAB I Pasal I ayat 3). Pada umumnya, Narapidana ditempatkan di Lembaga Pemasyarakatan (Lapas), namun dikarenakan kondisi beberapa Lapas yang seringkali mengalami over capacity, sehingga untuk menghindari kondisi tersebut maka dibuat sebuah kebijakan bahwa Narapidana yang memiliki masa pidana kurang dari 2 tahun tidak dimutasi atau dipindahkan ke Lapas dan tetap menempati Rutan sampai habis masa pidananya. Selain Narapidana, terdapat penghuni lain dengan status Tahanan, dimana Tahanan adalah seorang tersangka atau terdakwa (Permenkumham No. 33 Tahun 2015 BAB I Pasal 1 ayat 4). Di beberapa daerah, Tahanan juga ditempatkan di Lapas karena tidak ada Rutan di daerah tersebut. Begitu juga sebaliknya, apabila di suatu daerah hanya terdapat Lapas, maka Tahanan ditempatkan di Lapas yang ada di daerah tersebut.