Merci Takafer pour ce conseil.
Mais ce sera beaucoup plus long à réaliser. Je n'ai pas précisé qu'il s'agit d'un escalier que j'emprunterais principalement pour l'entretien, quelques fois par an seulement. C'est pourquoi je cherchais une solution rapide.
Je voulais faire le même principe que les taludecor :

Cela permet de tenir des talus sans mettre de béton, et il me semble que mon système est pareil puisque chaque dalle sera maintenu par la poid de toute les dalle au dessus.
J'avais aussi penser aux sentiers de montagne ou l'on trouve souvent des escaliers sommaires mais qui tiennent des années.
Si je pars sur mon idée malgré tout, pensez-vous qu'il vaux mieux utiliser du mortier ou du mortier colle ?
Il me semble que le mortier colle n'est pas si solide, et j'avais collé des dalles avec et certaines se sont décollées (humidité?). Pour l'instant, j'ai envie d'essayer avec du mortier.