Je développe une plateforme avec de l’IA. Est-ce que les risques m’inquiètent ?

Par Eric Boudrias Zotti, professeur en informatique et fondateur de Nabunam

Je vois passer de plus en plus d’articles qui parlent des dangers de l’intelligence artificielle. On y évoque la perte de contrôle, des emplois qui pourraient disparaître et même l’extinction de l’humanité.

Pendant ce temps, moi, je développe Nabunam, une plateforme qui utilise justement l’IA pour aider les enseignants.

La question est donc assez directe : est-ce que je contribue à développer quelque chose dont on devrait se méfier ?

Je pense que cette question mérite mieux qu’une réponse rassurante pour protéger mon produit. Quand on intègre l’IA dans un outil destiné à l’éducation, on doit être capable de parler de ses risques aussi ouvertement que de ses avantages.

Est-ce qu’on doit croire les scénarios catastrophiques ?

Le Rapport international sur la sécurité de l’IA 2026, dirigé par Yoshua Bengio avec la contribution de plus de 100 experts, distingue les dommages déjà observés des risques futurs encore incertains. Il ne prédit pas une extinction prochaine de l’humanité.

Ça ne veut pas dire qu’il n’y a rien à surveiller. Le rapport souligne notamment les erreurs des systèmes, leurs capacités inégales et les risques associés à une confiance excessive dans leurs réponses.

Comme enseignant, je n’ai pas besoin d’attendre qu’une IA échappe au contrôle de l’humanité pour me poser des questions. Une correction incorrecte qui pénalise un étudiant, c’est déjà un problème assez concret.

Ce qui me préoccupe, c’est qu’on finisse par ne plus vérifier

Une réponse de l’IA arrive rapidement. Elle est bien présentée, structurée et souvent convaincante. C’est pratique. C’est aussi ce qui peut nous amener à l’accepter trop vite.

En programmation, on connaît bien la différence entre du code qui fonctionne une fois et du code qu’on comprend suffisamment pour lui faire confiance. Est-ce qu’il gère les erreurs ? Est-ce qu’il fonctionne avec d’autres données ? Est-ce qu’il fait vraiment ce qu’on lui a demandé ?

Je pense qu’on doit garder ce même réflexe avec les contenus générés par l’IA.

Un exercice peut être bien rédigé et mal adapté au niveau du groupe. Une réponse peut être exacte, mais utiliser une méthode qui n’a pas encore été enseignée. Une correction peut relever une erreur tout en passant à côté du raisonnement de l’étudiant.

Si l’enseignant doit conserver la responsabilité du résultat, il faut lui donner les moyens de le vérifier facilement. Pour moi, ça fait partie du travail de développement.

Et du côté des étudiants ?

Comme professeur en informatique, je trouve difficile d’imaginer une formation qui ferait abstraction de ces outils. Ils existent, et nos étudiants auront à prendre des décisions sur leur utilisation.

Mais je ne veux pas non plus qu’on confonde produire un travail avec apprendre.

Si un étudiant remet une application qui fonctionne, mais qu’il ne peut pas expliquer comment les données circulent entre deux composants, qu’est-ce que je peux réellement conclure sur sa compréhension ?

C’est là que nos façons d’évaluer deviennent importantes. Demander d’expliquer un choix. Modifier une consigne et voir si l’étudiant peut adapter sa solution. Lui faire repérer une erreur dans du code généré.

Ce sont des pistes que je retiens comme enseignant. Elles demandent du travail, et je ne prétends pas qu’il existe une formule simple qui règle tout.

Nabunam doit aussi répondre à ces questions

Ce serait facile pour moi de terminer cet article en disant que Nabunam est la solution. Ce serait aussi un peu trop commode.

Utiliser l’IA dans une plateforme éducative ne fait pas disparaître ses limites. Ça nous oblige à en tenir compte dans la façon de construire le produit.

La direction que je veux donner à Nabunam est assez simple : aider un enseignant à avancer plus vite dans sa préparation et ses corrections, tout en lui permettant de comprendre, de modifier et de refuser ce qui lui est proposé.

Je veux que le temps gagné puisse servir à accompagner les étudiants. Si on finit par passer autant de temps à réparer des résultats difficiles à vérifier, on a manqué quelque chose.

Je reste convaincu que l’IA peut apporter beaucoup à l’éducation. C’est justement pour cette raison que je veux qu’on puisse en parler franchement, y compris quand les questions sont moins confortables pour ceux qui développent ces outils.

Je porte les deux chapeaux. Comme développeur, j’ai envie de voir jusqu’où on peut aller. Comme professeur, je veux pouvoir expliquer pourquoi ce qu’on fait aide réellement l’étudiant.

Pour moi, Nabunam doit être à la hauteur des deux.