Secondo alcune leggende il Cane Maggiore rappresenta uno dei due cani che aiutavano il cacciatore Orione, il secondo è il vicino Cane Minore.
Secondo altre è invece il mitico cane che appartenne a Cefalo e che cacciò invano una volpe che terrorizzava le campagne attorno a Tebe.
Questa volpe era velocissima e sfuggiva a chiunque la inseguisse; tuttavia il cane era altrettanto rapido, ma riuscì solo ad avvicinarsi alla sua preda, arrivando ad un soffio dal prenderla.
Poichè l'inseguimento proseguiva senza possibilità di interruzione, intervenne Giove, che uccise gli animali e portò in cielo il cane sotto forma di costellazione.

La stella più importante della costellazione è Sirio, stella più luminosa del firmamento con magnitudine -1,5.
I telescopi più potenti mostrano vicino a Sirio una stellina molto debole, chiamata Sirio B.
L'esistenza di questa stella era già stata prevista teoricamente, dal momento che Sirio si sposta nel cielo oscillando con periodo di 50 anni. Tali oscillazioni venivano spiegate supponendo che ci fosse un corpo orbitante, Sirio B, per l'appunto.
Entro i confini della costellazione troviamo due oggetti degni di nota: gli ammassi aperti M41 e NGC2362.
Il primo è talmente luminoso che in notti limpide e senza Luna, può essere scorto a occhi nudo. E' composto da circa 100 stelle, poste a più di 2000 anni luce da noi.
NGC2362 necessita di un telescopio per essere visto; è composto da circa 40 stelle poste a 4000 anni luce da noi.