Конституцией СССР, принятой II сессией ЦИК СССР 6 июля 1923 г., определялся порядок назначения прокурора Верховного суда СССР. В положении о Верховном суде СССР от 23 ноября 1923 г. предусматривалось образование Прокуратуры Верховного суда СССР.

Прокуратура СССР учреждена постановлением ЦИК СССР и СНК СССР 20 июня 1933 г. в связи с упразднением Прокуратуры Верховного суда СССР. 17 декабря 1933 г. было принято положение о прокурорском надзоре в СССР. Таким образом был сделан еще один шаг по пути к централизации Прокуратуры, однако централизация не было доведена до конца: прокуроры республик продолжали оставаться наркомами юстиции союзных республик, а значит, подчинялись не только Прокурору СССР, но и СНК и ЦИК своей республики.

Процесс становления прокуратуры как самостоятельного и независимого от администрации органа формально завершен в 1936 г. Конституция СССР закрепила становление прокуратуры в виде единой системы. В конституциях союзных республик было записано, что высший надзор за законностью на территории союзной республики осуществляет Прокурор СССР как непосредственно, так и через прокурора республики. При этом Прокурор СССР назначался Верховным Советом СССР сроком на 7 лет и только перед ним был ответственен.

В годы Великой Отечественной войны 1941–1945 гг. органы прокуратуры на транспорте, а также в местностях, объявленных на военном положении, были военизированы.

Новое положение о прокурорском надзоре в СССР принято 24 мая 1955 г.

30 ноября 1979 г. Верховным Советом СССР был принят закон о Прокуратуре СССР, в котором уточнялась система органов прокуратуры и подтверждалась их централизация.

Прокуратура СССР осуществляла надзор за соблюдением конституции, единообразным применением законов СССР, поддерживала от имени государства обвинение в суде, имела право опротестовывать акты органов власти и управления, приговоры судов, руководила органами расследования.

С 1956 г. прокурорскому надзору подлежали все органы предварительного следствия, включая соответствующие органы государственной безопасности. Прокурор (генеральный прокурор) СССР назначался Верховным Советом СССР.

В составе Прокуратуры СССР действовали: Главная военная прокуратура, Главная (военная) прокуратура железнодорожного транспорта, Главная (военная) прокуратура водного транспорта, управления и отделы. Среди них отделы: общего надзора, уголовно-судебной, гражданско-судебный, по спецделам, следственный, по надзору за ведением следствия в органах государственной безопасности, по надзору за местами заключения, по делам несовершеннолетних, по жалобам, систематизации законодательства и другие.

Упразднена со 2 января 1992 г. постановлением Президиума Верховного Совета РСФСР от 28 декабря 1991 г. Этим же постановлением правопреемником объявлена Прокуратура РСФСР.

Прокурорами (с 1946 г. – генеральными прокурорами) СССР были: П.А. Красиков (1924–1933), И.А. Акулов (1933–1935), А.Я. Вышинский (1935–1939), М.И. Панкратьев (1939–1940), В.М. Бочков (1940–1943), К.П. Горшенин (1943–1948), Г.Н. Сафонов (1948–1953), Р.А. Руденко (1953–1981), А.М. Рекунков (1981–1988), А.Я. Сухарев (1988–1990), Н.С. Трубин (1990–1991).

Фонд поступал частями в 1956, 1958, 1966–1991, 1993 гг. по мере истечения срока ведомственного хранения, по описям, составленным в архиве Прокуратуры СССР. Особенностью формирования описей является объединение материалов структурных частей с управленческой документацией и надзорными производствами в одних описях (1–27, 29, 30, 32) и их разделение в других (28, 35 – управленческая документация, 31, 33, 34, 36 – надзорные производства). Отдельные описи снабжены предисловиями, именными алфавитными указателями и предметными указателями видов преступлений. Заголовки в описях с надзорными производствами составляют фамилии и инициалы лиц, на которых они были заведены, или указывается вид совершенного преступления. Из состава фонда микрофильмирована 551 ед. хр.