Il n'y a aucun problème si on met les `(S_i)` en mode math. mathématique. En effet, le caractère `_` n'est utilisable qu'en mode math. mathématique. On peut même, comme le spécifie la documentation de `systeme` ne pas être en mode mathématique pour écrire le système d'équation (le pacakage se charge de nous y mettre). Cela donne :
\documentclass[a4paper,11pt,french]{article}%
\usepackage[francais]{babel}
\usepackage[utf8]{inputenc}
\usepackage[T1]{fontenc}
\usepackage{systeme}
\usepackage{enumerate}
\begin{document}
\begin{enumerate}
\item Résoudre le système $(S_1)$ : $\systeme{7x-6y=12,5x+3y=11}$
\systeme{7x-6y=12,5x+3y=11}
\item Résoudre le système $(S_2)$ : $\systeme{4x+6y=5,6x+9y=7}$
\systeme{4x+6y=5,6x+9y=7}
\item Résoudre le système $(S_3)$ : $\systeme{3x-\sqrt6y=\sqrt3,\sqrt6x-2y=\sqrt2}$
\systeme{3x-\sqrt6y=\sqrt3,\sqrt6x-2y=\sqrt2}
\end{enumerate}
\end{document}