Avec un ECM, ce serait plus simple pour essayer de proposer une solution qui convienne bien.
Je pense que la commande suivante permet d'associer à un titre donnée, donné une version plus courte (classe book) Typiquement courte. Cela vaut pour la classe book, typiquement celle utilisée dans les hauts et bas de page où les débordements sont gênants.
\chapter[Mon titre raccourci]{Mon titre trop long}
avec, par Par exemple :
\chapter[Espaces vectoriels]{Espaces vectoriels de dimension finie}
Pas certain que cela réponde à la question (?)