Il nome della costellazione è senz'altro derivato dal nome della stella più brillante, la alfa, il cui nome, Procyon, significa "il precursore del cane" cioè "l'annunciatore di Sirio" la cui levata eliaca, cioè la sua prima ricomparsa al mattino al sorgere del Sole, era attentamente osservata dagli Egizi.

Procione, molto più alta in cielo, poteva preavvisarne l'apparizione. Per tale motivo è una costellazione molto antica, ricordata da Eudosso e da Ipparco, i quali (come Tolomeo) la chiamavano Procione.

Si trova in Sufi, il famoso astronomo arabo, il nome di "piccolo cane" Al-kalb-al-asgar per la costellazione ed è con questo nome che anche oggi è nota.