Ce n'est pas la configuration de `yathesis` qui pose le problème.
C'est le choix (non recommandé) de l'extension `algorithm2e` d'exécuter les options dans l'ordre de définition et non pas dans l'ordre de l'utilisation.
Voici une solution.
\documentclass[mainlanguage=english]{yathesis}
\usepackage[algo2e]{algorithm2e}
\makeatletter
\addto\captionsenglish{
\renewcommand{\listalgorithmcfname}{List of Algorithms}%
Algorithms}
\renewcommand{\algorithmcfname}{Algorithm}
\renewcommand{\algorithmautorefname}{algorithm}
\renewcommand{\algorithmcflinename}{line}}
\renewcommand{\algorithmcflinename}{line}
\renewcommand{\algocf@typo}{}
\renewcommand{\@algocf@procname}{Procedure}
\renewcommand{\@algocf@funcname}{Function}
\renewcommand{\procedureautorefname}{procedure}
\renewcommand{\functionautorefname}{function}
\renewcommand{\algocf@languagechoosen}{english}
}
\makeatother
\begin{document}
\begin{algorithm2e}[ht]\caption{Test}\label{alg:PPCG}
Test\;
\For{Test}{
Test\;
}
\end{algorithm2e}
\end{document}
