Tentera memindahkan Alcatraz ke Biro Penjara awam (BOP) pada tahun 1934. BOP dengan cepat menukar penjara tentera yang sudah tua menjadi penjara awam yang mempunyai keselamatan maksimum dan canggih. Alcatraz tidak lama lagi akan menjadi penjara persekutuan paling terkenal dalam sejarah Amerika Syarikat.
Alcatraz direka untuk berfungsi sebagai penjara keselamatan maksimum dan keistimewaan minimum pertama di Amerika, yang hari ini dirujuk sebagai institusi "super max". Dari tahun 1934 hingga 1963, Alcatraz menempatkan beberapa pesalah paling terkenal di Amerika, artis melarikan diri, ketua geng dan pembuat masalah umum. Mereka ditahan di bawah keadaan yang paling selamat dan teratur, dalam persekitaran yang hampir kalis melarikan diri di Pulau berbatu di tengah-tengah Teluk San Francisco. Bagi lelaki yang dihantar ke sana, Alcatraz adalah penghujung barisan.

Alcatraz kadang-kadang dipanggil "penjara dalam sistem penjara", kerana satu-satunya banduan yang dihantar ke sana dipindahkan dari penjara persekutuan yang lain. Mahkamah tidak boleh menjatuhkan hukuman kepada sesiapa ke Alcatraz. Sebaliknya, "The Rock" adalah tempat BOP menghantar banduan yang paling menyusahkan sehingga diputuskan bahawa mereka boleh dikembalikan dengan selamat ke institusi keselamatan yang lebih rendah. Purata penginapan ialah lima tahun.

Dalam tempoh penjara Persekutuan beroperasi, 36 banduan terlibat dalam 14 percubaan melarikan diri berasingan. Dua puluh tiga lelaki ditangkap, enam ditembak dan dibunuh, dan dua lemas. Lima banduan hilang dan tidak pernah dilihat lagi, tetapi kemungkinan besar ialah mereka lemas dan mayat mereka tidak pernah ditemui.

Pada awal tahun 1963, Peguam Negara Robert Kennedy mengarahkan penutupan Penjara Alcatraz dengan alasan peningkatan kos penyelenggaraan dan operasi. Banduan terakhir telah dikeluarkan dari Pulau itu pada 21 Mac 1963. Apabila Pulau ditutup, ia digantikan dengan penjara persekutuan keselamatan maksimum baharu di Marion, Illinois.

Hari ini, institusi "super max" kerajaan terletak di Florence, Colorado. Nama samaran tidak rasminya ialah "Alcatraz of the Rockies."

Untuk maklumat lanjut mengenai Penjara AS di Alcatraz, pergi ke laman web rasmi Biro Penjara di sejarah BOP Alcatraz.