NSI RocksLab IATaux de fuite: 0%

Arena Prompting

Une plateforme de demonstration pour faire manipuler le contexte, la robustesse des consignes et les attaques de prompt injection.

Explorer, comparer, debriefer

Montrer en classe que le contexte change la reponse.

Les eleves voient la difference entre une requete brute, une consigne bien cadree et une attaque de contournement.

Tentatives

Fuites

Taux de fuite

Explorer, comparer, debriefer

Les eleves voient la difference entre une requete brute, une consigne bien cadree et une attaque de contournement.

Tentatives

Fuites

Taux de fuite

Objectif pedagogique

Montrer en direct l impact du contexte et les limites de robustesse d un LLM face aux attaques de prompt injection.

Comparer deux reponses a la meme question: sans cadre, puis avec un role explicite et des contraintes de style.

Atelier attaquant/defenseur: un groupe redige des attaques, un groupe durcit le prompt de defense.

Identifier les affirmations risquées, exiger des sources, puis valider par recherche ou calcul independant.

Meme question, sortie brute vs sortie guidee par un role.

Mission

Tester des attaques de prompt injection et mesurer le taux de fuite du secret.

Tentatives

Fuites

Debat rapide: "L IA comprend-elle vraiment ?" puis test sur des prompts ambigus.

Sprint d ecriture: transformer une reponse mediocre en reponse claire en 3 iterations de prompt.

Evaluation: grille de notation de prompt (objectif, contexte, contrainte, verification).