Avocat, d'abord menchévik (1902-1907). Après 1917, brièvement menchévik à nouveau avant d'adhèrer au Parti Communiste en 1921.

D'abord universitaire, il devient procureur en 1931. A ce titre, il sera l'accusateur public des bolchéviks lors des trois procès de Moscou et le théoricien du "droit prolétarien", dont le coeur était que des aveux suffisent à condamner un prévenu.

Après guerre, Vychinsky poursuit une brillante carrière au sein du ministère des affaires étrangères de l'U.R.S.S.