Originaire de Benken (BL). Né à Moutier le 9 décembre 1942 dans une famille d'architectes. Fils de Charles Kleiber. Marié, deux enfants.
Diplôme d'architecture à l'Ecole polytechnique de Lausanne (1968), doctorat en sciences sociales et pédagogiques à l'IDHEAP sur l'organisation sanitaire vaudoise (Incitation économique à la performance dans les services de soins, 1990, Prix Hauser de l'Université de Lausanne), thèse publiée sous le titre Questions de soins : essai sur l'incitation économique à la performance dans les services de soins, Lausanne : Payot, 1992.
Etabli comme architecte indépendant à Lausanne, il réalise plusieurs études pour l'administration cantonale vaudoise dans le domaine de la santé et se spécialise dans ce domaine. De 1976 à 1981, il est responsable de la conception et de la mise en oeuvre de la loi sur la planification et le financement des établissements sanitaires au sein du Service vaudois de la santé publique. Chef du Service de santé publique et de la planification sanitaire du canton de Vaud (1981), il travaille à la mise en réseau des établissements hospitaliers vaudois sous l'autorité de l'Etat, dans le cadre du Service des Hospices cantonaux vaudois, qu'il crée et dont il est le directeur général depuis 1991. Parallèlement, K. enseigne aussi à l'Institut d'économie et de management de la santé de Lausanne.
En 1997, il est nommé secrétaire d'Etat à la science et à la recherche auprès du Conseil fédéral, puis directeur du nouveau Secrétariat d'Etat à l'éducation et à la recherche (2005). Il dirige notamment la réforme du système universitaire suisse et préside la Conférence universitaire suisse (CUS) jusqu'à sa retraite à la fin de l'année 2007. Président de la Fondation de l'Institut suisse de Rome (ISR) depuis 2008.
De début 2012 à avril 2014, il préside le conseil d’administration de l’Hôpital du Valais.
Vice-président du bureau de l’International Risk Government Council (IRGC), président 2010-2012.