Voici une réponse faisant usage des facilités de programmation offertes par `expl3`. Au passage, j'ai tiré parti des styles fournis par `amsthm` afin d'éviter certaines bidouilles ;) Enfin, plutôt qu'une dimension fixe telle que `0.5cm` pour séparer les exercices, une longueur élastique telle que `0.5cm plus 0.1cm minus 0.2cm` permettrait probablement un remplissage de page plus harmonieux.
\documentclass[french]{article}
\usepackage[T1]{fontenc}
\usepackage[utf8]{inputenc}
\usepackage{lmodern}
\usepackage{amsmath}
\usepackage{amssymb}
\usepackage{amsthm}
\usepackage{babel}
\newtheoremstyle{break} % ⟨name⟩
{} % ⟨Space above⟩
{0.5cm} % ⟨Space below⟩
{\normalfont} % ⟨Body font⟩
{} % ⟨Indent amount⟩
{\bfseries} % ⟨Theorem head font⟩
{} % ⟨Punctuation after theorem head⟩
{\newline} % ⟨Space after theorem head⟩
{} % ⟨Theorem head spec (can be left empty, meaning ‘normal’ )⟩
\theoremstyle{break}
\newtheorem{exo}{Exercice}
\ExplSyntaxOn
\newenvironment{exercice}[1]{%
\begin{exo}[#1~point \fp_compare:nF {#1<2}{s}]%
}{%
\end{exo}
}
\ExplSyntaxOff
\begin{document}
\begin{exercice}{1}
azerty
\end{exercice}
\begin{exercice}{2}
azerty
\end{exercice}
\begin{exercice}{1,5}
azerty
\end{exercice}
\end{document}
