Communiqué de presse de swissAI du 20 janvier 2026

Grâce à l'IA, il est aujourd'hui possible de créer ou de modifier des images d'êtres humains réels d'un réalisme trompeur. Cette technique fait l'objet d'abus de plus en plus fréquents : pour la création de « deepfakes » à caractère sexuel. Dans ce contexte, les visages de personnes réelles sont intégrés, à leur insu, dans des représentations pornographiques ou compromettantes. Ces images semblent authentiques, se propagent à une vitesse fulgurante et sont pratiquement impossibles à supprimer entièrement du web.
Pour les personnes concernées, il ne s’agit pas d’un simple problème technique marginal, mais bien de violence numérique : avec des conséquences psychologiques, sociales et professionnelles considérables. Les femmes et les mineurs sont particulièrement touchés.

Pourquoi ce problème existe-t-il?
Ce phénomène résulte d'une combinaison problématique :

1. Des outils d'IA extrêmement performants et faciles d'accès
Ce qui nécessitait autrefois des connaissances spécialisées est aujourd'hui à la portée de tous les utilisateurs et utilisatrices.

2. Des mécanismes de protection qui ne suivent pas le rythme
De nombreuses plateformes lancent de nouvelles fonctionnalités d'IA avant même de savoir comment prévenir efficacement les abus.

3. Des réactions qui n'interviennent qu'après la survenue du préjudice
Les abus ne sont souvent pris au sérieux que lorsque des cas sont rendus publics – et non à titre préventif.

En bref : la technologie évolue plus vite que le sens des responsabilités.

Débat actuel autour de Grok/X au Royaume-Uni
Au Royaume-Uni, cette question est actuellement au cœur d’un débat politique. L’autorité de régulation Ofcom mène une enquête sur la plateforme X concernant le chatbot IA Grok. Le reproche : cette fonctionnalité IA aurait permis la création et la diffusion à grande échelle d’images à caractère sexuel générées par l’IA. Le gouvernement britannique a déclaré publiquement que X ne protégeait peut-être pas suffisamment ses utilisateurs. En vertu de la loi britannique sur la sécurité en ligne (Online Safety Act), des sanctions sévères, pouvant aller jusqu’à la suspension temporaire de la plateforme, sont envisagées. X a réagi en limitant l’accès à certaines fonctionnalités d’image aux seuls utilisateurs payants de Grok.
Cette mesure est insuffisante : elle n’empêche pas les abus, mais se contente de les déplacer derrière un mur payant. Entre-temps, après des semaines de pression de la part des autorités de régulation, des gouvernements et des victimes, Elon Musk lui-même a déclaré que Grok avait besoin d’une « charte morale ».

Ce n'est pas un cas isolé, mais un schéma structurel
Grok/X illustre parfaitement un principe récurrent : de nouvelles fonctionnalités d'IA sont lancées, des abus se produisent, puis des tentatives de correction sont entreprises sous la pression de l'opinion publique. Pour les personnes concernées, le préjudice persiste.

Position de swissAI
Le problème fondamental ne réside pas dans l'IA en soi, mais dans la mise à disposition de fonctionnalités particulièrement susceptibles d'être détournées, sans contrôle efficace.

Trois constatations sont essentielles :

1. Toutes les fonctions d'IA ne sont pas acceptables
Si une fonction conduit systématiquement à nuire aux êtres humains ou à les humilier, sa raison d'être doit être remise en question.

2. Les mesures prises a posteriori ne protègent pas
Ceux qui ne réagissent que lorsque les abus sont rendus publics réagissent trop tard.

3. Les « paywalls » ne constituent pas un moyen de protection
Les contenus préjudiciables ou illégaux ne disparaissent pas simplement parce qu'ils deviennent payants

swissAI ne réclame ni des interdictions générales de l'IA, ni des solutions réglementaires toutes faites. Nous estimons toutefois qu'il est nécessaire de discuter ouvertement de la question de savoir si certaines fonctionnalités particulièrement dangereuses de l'IA doivent être temporairement désactivées lorsque les plateformes ne sont pas en mesure de les contrôler efficacement.

Pourquoi ce débat doit avoir lieu dès maintenant
La plupart des gens ignorent encore ce qui est techniquement possible. C'est précisément pour cette raison qu'il est nécessaire, dès maintenant, de proposer une analyse objective, compréhensible et prospective – avant que les dégâts ne s'aggravent.

L'innovation est importante. La protection des personnes n'est toutefois pas une condition secondaire facultative, mais une condition préalable fondamentale.