Après avoir obtenu, à la fin de ses études secondaires, le Premier prix au Concours général de philosophie, Gilbert Amy décide de se consacrer à la musique. Il entre au Conservatoire de Paris où il est l'élève de Simone Plé-Caussade, Henriette Puig-Roget, Darius Milhaud et Olivier Messiaen.

Quelques années plus tard, il fait la connaissance de Pierre Boulez qui lui commande Mouvements, pour une création au Domaine musical en 1958. Dès lors ses œuvres seront exécutées dans tous les hauts lieux de la création musicale : Donaueschingen, Darmstadt, Venise, Royan, Berlin, Varsovie...

En 1967, il succède à Pierre Boulez à la direction des concerts du Domaine musical jusqu'à la fin des activités de l'ensemble, en 1974.

Parallèlement, Gilbert Amy mène une carrière de chef d'orchestre en France et à l'étranger, dirigeant un répertoire très étendu. Citons, parmi ceux qu'il dirige, les orchestres de Paris,  du national de France, de l'Opéra de Paris, de la BBC, de la radio de Hambourg, de la radio Bavaroise, de Chicago ou celui de la Suisse romande.

En 1976, Gilbert Amy fonde le Nouvel orchestre philharmonique de Radio-France, dont il sera le premier chef et le directeur artistique jusqu'en 1981. Il assure avec cette formation près de cent concerts et enregistrements, ainsi que plusieurs tournées en France et à l'étranger.

Parmi ses activités pédagogiques, il entreprend la session de direction d'orchestre du centre Acanthes en 1979 avec György Ligeti. En 1982, il enseigne la composition et l'analyse musicale à l'Université américaine de Yale puis il est directeur du Conservatoire national supérieur de musique de Lyon de 1984 à 2000.

Malgré toutes ces activités d’interprète, de directeur artistique et de pédagogue, Gilbert Amy compose sans discontinuer depuis le milieu des années cinquante. Dans un catalogue riche en pièces instrumentales, de chambre et pour ensemble, la voix et le texte occupent une place toute particulière, depuis Œil de fumée en 1956 jusqu’à son opéra Le Premier Cercle, créé quarante ans plus tard à l’Opéra national de Lyon, salué par la critique comme l'un des événements les plus marquants de la création lyrique en France de ces dernières années. L’orchestre est également au centre de sa réflexion sur le son et l’espace organisés, réflexion qu’il ne cesse d’approfondir ; Orchestrahl (1985-1989) en est une illustration des plus ambitieuses.

Gilbert Amy reçoit en 1979 le Grand prix national de la musique, en 1983 le Grand prix de la Sacem, en 1986 le Grand prix musical de la Ville de Paris, en 1987 le Prix du disque de l'Académie Charles-Cros et le Prix de la critique musicale pour la Missa cum jubilo (1988). Il reçoit  en 2004, le Prix Cino del Duca pour l'ensemble de son œuvre.