Pierre Moussa est né à Lyon le 5 mars 1922. Il entre en 1940 à l'École normale supérieure (ENS), est reçu à l'agrégation des lettres dès 1943 et est reçu premier à l'Inspection des finances en 1946. Il commence sa carrière au ministère des Finances et des Affaires économiques où il est chargé de mission à la direction des Relations économiques extérieures et conseiller technique dans plusieurs cabinets ministériels.
En 1954, il devient directeur du cabinet de Robert Buron, ministre de la France d'outre-mer, puis directeur des Affaires économiques et du Plan au ministère de la France d'outre-mer (1954-1959). Il participe à la négociation du Traité de Rome pour la France d'outre-mer. De 1956 à 1959, il préside en outre la Commission des territoires d'outre-mer (TOM) à l'Organisation européenne de coopération économique (OCDE). De 1959 à 1962, il occupe la fonction de directeur des Transports aériens au ministère des Travaux publics et des Transports, fonction qu'il quitte pour diriger à Washington le département Afrique de la Banque mondiale (1962-1964).
En 1965, il quitte le service de l'État, de retour à Paris, il est conseiller du président, puis président lui-même de la Fédération française des sociétés d'assurance (1965-1969).
Pendant cette période, il est d'autre part professeur à l'École nationale de la France d'outre-mer (1955-1959), maître de conférence, puis professeur à l'École nationale d'administration (ENA) (1956-1960) et à l'Institut d'études politiques (IEP) de Paris (1959-1971).
En février 1969, Jacques de Fouchier l'appelle auprès de lui pour occuper le poste de directeur général adjoint de la Banque de Paris et des Pays-Bas (Paribas), poste qu'il occupe jusqu'en novembre. Il devient ensuite directeur général de la Compagnie financière de Paris et des Pays-Bas et de la banque, puis administrateur-directeur général de la Compagnie financière. En 1976, il en devient vice-président, puis président-directeur général (1978-1981). De plus, il préside la Compagnie financière pour l'outre-mer (COFIMER) de 1969 à 1975 et la Compagnie de gestion d'investissements internationaux (COGEI) de 1971 à 1976.
En 1976, il devient président de la Nouvelle Compagnie financière pour l'outre-mer (COFIMER). Il préside la Commission des finances du Centre national du patronat français de 1980 à 1982. Pendant ses années Paribas, Pierre Moussa a été administrateur de nombreuses sociétés françaises et étrangères. La décision du gouvernement et du Parlement de nationaliser Paribas provoque sa démission en 1981.
Dès 1982, Pierre Moussa crée Finance and Development Inc. (USA), dont il assure la présidence de 1982 à 1987. En 1984, il crée Pallas group, ultérieurement Pallas holding (Luxembourg) dont il demeure président-directeur général jusqu'à sa fusion avec la Compagnie industrielle de Paris (COMIPAR) en 1992. En 1999, il créé la fondation pour l'Entreprise Africaine.
Il décède le 30 juin 2019.