En utilisant `\addplot` plutôt qu'`\addplot+`, on garde la main sur toutes les options puisqu'il n'y a pas de valeur par défaut cyclique.
\documentclass[12pt]{yathesis}
\usepackage[T1]{fontenc}
\usepackage[utf8]{inputenc}
\usepackage{pgfplots}
\usepackage{xcolor}
\begin{filecontents}{cat1-1.txt}
0 100
0.5 90.30331943
1 85.39682391
1.5 80
2 75.2685093
2.5 69.58571169
\end{filecontents}
\begin{filecontents}{cat1-2.txt}
0 0
.5 3.981361393
1 9.045463379
1.5 12.94618297
2 18
2.5 23
\end{filecontents}
\begin{filecontents}{cat1-3.txt}
0 0
.5 0.005255145
1 0
1.5 0.47423214
2 0.897460432
2.5 6.55
\end{filecontents}
\begin{document}
\begin{figure}[ht]
\centering
\begin{tikzpicture}
\begin{axis}[
xlabel=Temps (h),
ylabel=Pourcentage molaire (\%),
grid=major,width=12cm,
height=7cm]
\addplot[smooth,blue,mark=*] table {cat1-1.txt};
\addplot[smooth,red,mark=square*] table {cat1-2.txt};
\addplot[smooth,green,mark=triangle*] table {cat1-3.txt};
\end{axis}
\end{tikzpicture}
\end{figure}
\end{document}