Il Palazzo fu fatto costruire alla metà del '500, durante il periodo di transizione tra Rinascimento e Barocco, dalla famiglia Bernardo su progetto dell'architetto trentino Alessandro Vittoria.

In origine la facciata principale dell'edificio, interamente affrescata, era quella posta di lato, davanti al giardino situato ove oggi sorge ca' Rezzonico.
In seguito alla costruzione del nuovo palazzo di fronte all'ingresso principale, gli antenati degli attuali proprietari, poco meno di due secoli fa, crearono un nuovo giardino all'italiana facendo demolire una serie di case, poste sul lato a ridosso del Canal Grande, dando cosi' una nuova ed armonica impostazione a Palazzo Nani Bernardo conservata sino ad oggi.

L'edificio presenta una facciata tipicamente rinascimentale dalla straordinaria compattezza e regolarità divisa in piano terreno, due piani nobili e sottotetto, originariamente era ricoperta di affreschi e motivi decorativi i cui piccoli frammenti sono tuttora visibili sui lati dell'edificio. Il fronte ricoperto di marmo candido è caratterizzato anche dalla presenza di due stemmi settecenteschi all'altezza del secondo piano tra le finestre.

Il palazzo è servito da una superba entrata dal Canal Grande attraverso poi un ampio scalone principale che permette l'accesso ai due piani nobili.
Altro elemento veramente pregevole è il giardino posteriore, molto curato e straordinariamente esteso in lunghezza, realizzato durante il XVIII secolo.