Le regard croisé des ingénieurs et des avocats sur vos projets IA

Analyses, repères et conseils issus de nos diagnostics IA et PI : ce qui se construit, ce qui se protège, ce qui se finance.

27 octobre 20267 min de lecture

Prompt injection : quelles parades protègent vraiment votre assistant IA ?

Votre assistant IA lit des documents venus de l'extérieur, et on vous propose un filtre anti-injection pour dormir tranquille. Ce filtre cherche des ordres, alors que la plupart des consignes cachées n'en contiennent pas, et les référentiels de sécurité admettent qu'aucune parade n'est complète. Il faut donc en empiler plusieurs, en commençant par celles qui ne comptent pas sur l'obéissance du modèle : limiter les droits de l'assistant et valider à la main ce qui part vers l'extérieur. L'article classe huit protections de la plus solide à la plus fragile, chacune avec ce qu'elle apporte et ce qu'elle laisse passer, puis donne douze contrôles à faire avant de brancher l'assistant.

Lire l’article →

20 octobre 202610 min de lecture

Prompt injection : votre assistant IA lit ce que vos acheteurs ne voient pas

La prompt injection passe par les devis, les CV et les e-mails que vous envoient des tiers. Votre assistant IA lit aussi les phrases qu'ils y ont cachées, en blanc sur blanc ou en police minuscule, et aucun modèle de langage ne sait distinguer de façon fiable une donnée d'une consigne. Nous avons piégé un devis de test : les quatre extracteurs PDF essayés transmettent la phrase cachée au modèle, collée au prix. Un script d'une trentaine de lignes suffit pourtant à repérer ce texte invisible avant l'indexation. L'article donne la démonstration complète, le détecteur, deux cas réels et sept contrôles à faire avant de laisser un assistant lire des documents de l'extérieur.

Lire l’article →

16 octobre 20266 min de lecture

Votre assistant IA peut-il laisser fuiter vos données sans un clic ?

Vous branchez un assistant IA sur la messagerie, les devis ou les CV, et vous lui donnez accès à vos dossiers pour qu'il soit utile. Or chaque document reçu peut contenir une consigne cachée, et personne ne sait empêcher à coup sûr un modèle d'y obéir. Demandez-vous donc ce qu'il peut faire s'il obéit. Une fuite de données demande trois droits réunis : lire des contenus de tiers, accéder à des données sensibles, envoyer quelque chose vers l'extérieur. Retirez-en un, ou mettez un humain dans la boucle, et une injection réussie ne donne plus qu'une réponse fausse. Vous verrez cette grille appliquée à quatre usages courants, puis sept réglages à faire avant la mise en service.

Lire l’article →