Né en Dordogne en 1923, Pierre Arpaillange s’engage très jeune dans la résistance active (région de Sarlat et Royan, 1943-1945). Après des études de droit à Toulouse et Paris (1946), il entre dans la magistrature en 1949, comme juge-suppléant à Orléans, puis est détaché auprès du secrétariat général du parquet de la Cour de cassation, de 1954 à 1965. Il occupe les fonctions de conseiller technique auprès de Jean Foyer, garde des Sceaux, à partir de 1965, puis celles de directeur de cabinet de Jean Taittinger (1967) et Louis Joxe (1968), tous deux ministres de la Justice. Directeur des Affaires criminelles et des grâces de 1968 à 1972, il est ensuite nommé directeur de cabinet du garde des Sceaux Jean Taittinger, à compter de 1973. Nommé conseiller à la Cour de cassation en 1974 (au sein de la chambre sociale), il s’engage comme directeur de campagne de Marie-France Garaud, candidate à l’élection présidentielle de 1981. Nommé procureur général près la cour d’appel de Paris en 1981, puis près la Cour de cassation en 1984, il devient garde des Sceaux, ministre de la Justice entre 1988 et 1990. À cette date, il est nommé à la Cour des comptes, où il terminera sa carrière en 1993.
Pierre Arpaillange a publié de nombreux articles et un ouvrage intitulé La simple justice (Paris, Julliard, 1980).
Pierre Arpaillange est décédé à Cannes le 11 janvier 2017.