Après ses études de théologie, ses convictions pacifistes lui valurent quelques difficultés avec les autorités de l'Église réformée de l'entre-deux-guerres, autorités qui étaient très opposées au pacifisme et ne voulurent pas lui confier de poste pastoral. Il dut accepter un poste de mission populaire dans la ville minière de Sin-le-Noble, un secteur particulièrement difficile où il fut en particulier confronté à la nécessité de la lutte anti-alcoolique, qu'il mena en ouvrant une section de la Croix-Bleue.

Le Chambon-sur-Lignon

C'est cette même difficulté avec les autorités ecclésiastiques qui le conduisit à prendre le poste du Chambon-sur-Lignon, village protestant de montagne au cœur d'une petite région isolée à majorité protestante située dans un département à majorité catholique, la Haute-Loire. Il y a à la fin des années 1930 douze pasteurs protestants chargés de paroisses dans les localités du plateau du Chambon-sur-Lignon (dont Saint-Agrève et Tence) et à peu près autant chargés d’œuvres diverses, notamment de maisons de vacances pour enfants.

Ses contacts avec l'Église confessante allemande lui permirent de voir venir la vague de persécutions anti-juives. La fondation du Collège Cévenol au Chambon en 1938, pour aider les enfants des paroisses protestantes du Plateau à faire de bonnes études et permettre à des élèves et des enseignants de divers pays de se rencontrer, ne doit rien au hasard. Mais André Trocmé et son épouse Magda sont forts du soutien de la communauté protestante. Le soutien aux réfugiés peut s'organiser avec l'aide de la Société religieuse des Amis (quakers), de l'Armée du salut, d'Églises protestantes américaines, du Mouvement international de la Réconciliation, de groupes œcuméniques juifs et chrétiens, de la Cimade et du Cartel suisse de secours aux enfants victimes de la guerre. Le 13 février 1943 André Trocmé est arrêté avec le pasteur Edouard Theis et Roger Darcissac, le directeur de l'école primaire. Internés au camp de Saint-Paul-d'Eyjeaux, ils sont libérés trois semaines plus tard.

Si le pasteur inspire l'action par ses sermons, d'ailleurs extrêmement audacieux même sous l'occupation, il se garde d'organiser les choses de manière trop centralisée. De multiples filières se mettent en place et la solidarité de la population essentiellement protestante du plateau, qui se souvient encore de la manière dont on cachait les pasteurs clandestins autrefois, permet de sauver de 2 500 à 3 000 personnes (dont près d'un millier de juifs) de manière solidaire sans qu'on puisse mettre le doigt sur les responsables.

Il est remarquable que le Yad Vashem ait distingué l'ensemble du village du Chambon-sur-Lignon en lui conférant le titre de Juste parmi les nations. Cela a été longtemps le seul cas où cette distinction a été accordée à une collectivité. André Trocmé et sa femme Magda ont aussi reçu le titre de Juste parmi les nations tout comme Edouard Theis et son épouse Milred.

Après guerre

Après la guerre, André Trocmé est nommé secrétaire itinérant du Mouvement international de la Réconciliation (MIR) pour l'Europe. André Trocmé est pasteur à la paroisse Saint-Gervais à Genève, de 1960 à sa mort en 1971.