À Zurich, un homme tente de tuer des enfants d’une école maternelle à l’aide d’un couteau. Au tribunal, on reconstitue la manière dont il a préparé son crime. Et au milieu de cette reconstitution, un terme revient qui ne manque jamais d’attirer l’attention aujourd’hui : ChatGPT. L’auteur des faits aurait communiqué intensivement avec ChatGPT et aurait notamment demandé où il pouvait trouver de jeunes enfants à Zurich. On évoque également des recherches sur Internet, l’achat d’un couteau, des études anatomiques et des exercices sur de la viande. Lire l’article

La mention de ChatGPT est donc pertinente. Mais elle ne constitue pas encore une explication.

L'information essentielle manque

Pour savoir quel rôle le système d'IA a réellement joué, il faudrait surtout connaître deux choses : quelle question a été posée – et quelle réponse ChatGPT a-t-il donnée ?

Nous connaissons en partie la première partie. Pas la seconde. Le système a-t-il fourni des informations concrètes ? A-t-il refusé la demande ? A-t-il renvoyé vers la rubrique « Aide » ? Tant que nous ne le savons pas, il est difficile de déduire, à partir de la simple utilisation, quelle contribution ChatGPT a réellement apportée à la préparation de l'acte. L'utilisation n'implique pas automatiquement un effet. Et la mention n'implique pas automatiquement un lien de causalité.

Il est tout aussi important de se demander si ces mêmes informations n’auraient pas pu être trouvées via des moteurs de recherche, des forums, des vidéos ou des sites web. L’IA générative transforme l’accès à la connaissance. C’est précisément pour cette raison qu’il faut examiner avec précision ce qu’elle a réellement apporté dans un cas concret. « Il a utilisé ChatGPT » n’est, en soi, guère plus significatif que « Il a utilisé Internet ».

La question journalistique essentielle est donc la suivante : quelles informations pertinentes pour les faits a-t-il obtenues grâce à l'IA – et aurait-il pu les trouver ailleurs de la même manière ?

L'IA peut également intervenir

Un autre aspect est souvent négligé dans le débat : l'IA générative n'est pas seulement un nouvel outil d'information. Elle est également capable de détecter des intentions problématiques, de refuser de répondre, de proposer des alternatives sûres ou d'orienter vers des services d'aide. Elle ouvre ainsi des possibilités que les systèmes d'information classiques n'offrent pas.

Une plus grande différenciation serait utile

Lorsqu’un système d’IA est impliqué dans une infraction pénale, cela doit bien sûr être mentionné dans les reportages. Mais la question suivante revêt une importance tout aussi grande : que s’est-il réellement passé lors de cette interaction ? Peut-être l’IA a-t-elle facilité la commission d’un acte. Peut-être a-t-elle refusé une demande problématique. Peut-être n’était-elle qu’un outil parmi tant d’autres.

L'IA mérite d'être observée d'un œil critique. Mais ce ne sont pas les conclusions hâtives sur les liens de causalité qui renforcent la critique, mais bien un examen minutieux. C'est pourquoi, chaque fois qu'on lit « Il a effectué ses recherches avec ChatGPT », une question devrait s'imposer d'elle-même : « Et qu'a répondu ChatGPT ? »