Γεννήθηκε στο Autlan de Navarro του Μεξικού. Έμαθε να παίζει βιολί στην ηλικία των 5 ετών και κιθάρα στα 8. Ο μικρότερος αδερφός του, ο Jorge Santana έγινε επίσης επαγγελματίας κιθαρίστας. Σε μικρή ηλικία, επηρεάστηκε από τον Ρίτσι Βάλενς σε μια εποχή που υπήρχαν ελάχιστοι Λατινοαμερικάνοι στην ροκ και ποπ μουσική. Η οικογένεια μετακόμισε από το Autlan στην Τιχουάνα, την πόλη του Μεξικού που συνορεύει με την Καλιφόρνια και με το Σαν Φρανσίσκο. Ο Κάρλος έμεινε στην Τιχουάνα αλλά αργότερα πήγε στην οικογένεια του στο Σαν Φρανσίσκο, αποφοίτησε από το σχολείο James Lick και το 1965 από το Γυμνάσιο Mission. Έγινε δεκτός στο πανεπιστήμιο του Northridge της Καλιφόρνια και στο πανεπιστήμιο του Humboldt, αλλά απέρριψε και τις 2 προτάσεις.