„Der Himmel ist eine Grenze für diesen Mann“, schrieb ein amerikanischer Kritiker über den damals 25-jährigen Dirigenten Zubin Mehta. Von seinem Vater Mehli Mehta, Gründer des Sinfonieorchesters Bombay und Geigenvirtuose, erhielt er die ersten musikalischen Impulse. Mit 16 Jahren dirigierte er auswendig Bachs a-Moll-Konzert mit dem Vater als Solisten. Zwei Jahre später ging er nach Wien und studierte dort zunächst Klavier, Komposition und Kontrabass. 1969 führte er Schuberts „Forellenquintett“ mit Itzhak Perlman, Pinchas Zukerman, Jacqueline du Pré und Daniel Barenboim auf. Das Dirigierhandwerk erlernte er bei Hans Swarowsky, bereits mit Mitte 20 stand er an den Pulten der Berliner und der Wiener Philharmoniker.
1958 gewann er den Internationalen Dirigentenwettbewerb in Liverpool, vier Jahre später wurde er Musikdirektor des Orchestre symphonique de Montréal und des Los Angeles Philharmonic. 1978 folgte er auf Pierre Boulez als Chefdirigent der New Yorker Philharmoniker, eine Position, die er von 1977 bis 2019 auch beim Israel Philharmonic Orchestra innehatte. Von 1998 bis 2006 war er zudem Generalmusikdirektor der Bayerischen Staatsoper. Operndirigate führten ihn u. a. an die Metropolitan Opera in New York, ans Londoner Royal Opera House, an die Mailänder Scala, die Wiener Staatsoper und an die Berliner Staatsoper Unter den Linden. 2014 wurde er hier zum Ehrendirigenten ernannt. Auch die Münchner Philharmoniker, die Wiener Staatsoper und das Bayerische Staatsorchester machten ihn zum Ehrenmitglied.
In seiner mehr als fünfzigjährigen Karriere wurden Mehta zahlreiche wichtige Auszeichnungen verliehen, darunter das Bundesverdienstkreuz, der Kennedy-Preis, der indische Padma Vibhushan, für sein Lebenswerk erhielt er u. a. den Opus Klassik und Österreichischen Musiktheaterpreis. 2011 wurde ihm ein Stern auf dem Hollywood Boulevard gewidmet.