La loggia del Bigallo è stata costruita tra il 1353 e il 1358 al posto della casa torre degli Adimari, cacciati da Firenze durante le guerre fra Guelfi e Ghibellini. 

La loggia fu costruita per la Compagnia del Bigallo e per la Compagnia della Misericordia, due istituzioni fondate da San Pietro Martire che si occupavano dei bambini orfani e abbandonati. Il nome "bigallo" deriva da due galletti presenti sullo stemma della compagnia. 

Secondo la legenda, la loggia sorge nel punto del miracolo che San Pietro Martire fece a Firenze. Il Santo era giunto a predicare nella città toscana e una piccola folla si era radunata ad ascoltare le sue parole con ammirazione.

Il diavolo, sconvolto e adirato per la presenza dell'uomo e per l'attenzione con cui i fedeli lo ascoltavano, si trasformò in un grande cavallo nero e, senza controllo, decise di scagliarsi contro la folla per scatenare il panico e far cessare il sermone.

San Pietro si mise di fronte ai fedeli e fece il gesto della croce; bastò questo per costringere il cavallo ad impennarsi e a saltare sopra la folla, senza creare danni o feriti. 

Questa leggenda è narrata negli affreschi di Ventura di Moro e Rossello di Jacopo Franchi che ancora oggi decorano gli archi a sesto acuto della loggia. Secondo alcune fonti dell'epoca l'episodio di San pietro e del cavallo non avvenne fra Piazza San Giovanni e via dei Calzaioli, ma nel punto in cui sorgeva il diavolino del Giambologna all'angolo di Via Strozzi.