Karl Leo promovierte 1988 an der Universität Stuttgart. Im Jahr 1993 habilitierte er am Institut für Halbleitertechnik der RWTH Aachen. Im gleichen Jahr übernahm er eine Professur für Optoelektronik am Institut für angewandte Photophysik der Technischen Universität Dresden. Seit 2001 leitet er das Geschäftsfeld »Organische Materialien und Systeme« am Fraunhofer IPMS.

Zum 1. September 2007 hat der Vorstand der Fraunhofer-Gesellschaft Prof. Dr. Leo zum weiteren Mitglied der Leitung des Fraunhofer-Instituts für Photonische Mikrosysteme mit dem Schwerpunkt »Organische Materialien und Systeme« bestellt.