Nasce ad Asti ma trascorre parte della sua infanzia in Belgio, dove si trasferisce con la famiglia a causa del lavoro del padre. Qui inizia a studiare dapprima il clarinetto e poi il sax tenore entrando nel 1946, a soli quindici anni, nella big band belga di Raoul Faisant.
Nel 1950 è di nuovo in Italia e, accogliendo la sonorità del cool jazz di recente importazione statunitense (è il jazz di Baker e Mulligan), dà vita assieme al trombettista Oscar Valdambrini al "Basso-Valdambrini Quintet": con questa formazione (estesa fino a diventare un ottetto, a seconda delle esigenze) si esibisce in tutta Italia e all'estero, collaborando con molti dei grandi del jazz italiano come Dino Piana e Mario Pezzotta (trombone), Glauco Masetti e Attilio Donadio (sax), Gianni Cazzola (batteria) e Renato Sellani (pianoforte).
Negli stessi anni '50 fonda poi, sempre con Valdambrini, il "Sestetto Italiano" aggiungendo alla sezione fiati anche il sax contralto di Attilio Donadio.
Questo splendido decennio per Basso vede anche le illustri collaborazioni con i maggiori artisti internazionali (Gerry Mulligan, Chet Baker ecc.) che lo portano ad essere conosciuto anche negli Stati Uniti.
A partire dagli anni '60 inizia a suonare alla pari con i grandi del jazz (Lee Konitz, Phil Woods, Art Farmer, Johnny Griffin, Zoot Sims, Buddy Colette) e ad essere uno dei maggiori e più richiesti session man a livello mondiale: fa parte di big band celeberrime quali la "Kenny Clarke/Francis Boland Big Band", la "Maynard Ferguson Big Band" e la "Thad Jones Big Band". v In seguito è richiesto da grandi artisti pop (come Mina, ad esempio) e con la sua grande capacità di didatta è il "mentore" di molti jazzisti attuali (Francesco Cafiso, Dado Moroni, Fabrizio Bosso, Flavio Boltro, Stefano Battaglia, Gino Comisso ecc.).
Molte le collaborazioni illustri e la disponibilità ad aprire il suo jazz a linguaggi diversi, come testimoniato dal disco registrato con Life Chorus & Orchestra. In tale edizione è ascoltabile una versione della sua Miss Bo con coro e orchestra: ancora oggi questo esperimento resta un chiaro esempio di successo anche popolare, in cui il sax di Gianni Basso disegna assoli memorabili tra le note di standard jazz internazionali e inediti come Certe Piogge di Stefano Gotta.
Amato come musicista e stimatissimo come uomo, ancora nelle ultime edizioni dei vari Festival Jazz, gli amici musicisti di sempre, tra i quali il grande Dino Piana, gli hanno tributato sinceri omaggi in musica.
Scomparso a 78 anni, il suo funerale, nella collegiata di San Secondo ad Asti, è stato caratterizzato da una jam session effettuata dai musicisti della "Torino Jazz Orchestra".
Una biografia completa di Gianni Basso è stata edita da Fabiano Editore di Canelli (Asti). Il libro si intitola: Una vita con il sax scritto da Armando Brignolo che ha raccolto interviste, fotografie inedite e testimonianze.