L’Union européenne vient de dévoiler un ensemble de lignes directrices visant à encadrer l’utilisation abusive de l’intelligence artificielle, notamment par les employeurs, les sites Web et les forces de l’ordre. Ces recommandations interviennent dans le cadre de la première législation contraignante sur l’IA, entrée en vigueur l’année dernière et qui sera pleinement applicable dès le 2 août 2026, certaines mesures ayant déjà pris effet depuis le 2 février de cette année.
Les directives, bien qu’elles ne soient pas juridiquement contraignantes en elles-mêmes, visent à offrir une sécurité juridique aux fournisseurs et déployeurs de systèmes d’IA sur le marché européen, ainsi qu’aux autorités de surveillance. Parmi les pratiques formellement interdites, on note l’usage de modèles sombres conçus pour manipuler les utilisateurs afin de les inciter à dépenser des sommes importantes, ainsi que l’exploitation des données personnelles sensibles—comme l’origine, la race ou la situation socio-économique—pour établir des systèmes de notation sociale.
Restrictions pour les employeurs et les sites web
En matière de surveillance et d’application de la loi, la Commission européenne a précisé que la police ne pourra pas utiliser l’intelligence artificielle pour prédire le comportement criminel des individus uniquement sur la base de leurs données biométriques, sauf en cas de vérification préalable. De même, l’usage de webcams et de systèmes de reconnaissance vocale par les employeurs afin de suivre les émotions de leur personnel est proscrit. Les caméras mobiles équipées de technologies de reconnaissance faciale à des fins de sécurité publique restent autorisées, mais sous conditions strictes et garanties limitées.
Les sites Web, quant à eux, se verront interdire l’utilisation de l’IA pour inciter les utilisateurs à engager des dépenses importantes, afin de prévenir toute forme de manipulation financière. Cette nouvelle approche se positionne en nette opposition avec l’approche de conformité volontaire adoptée aux États-Unis, et contraste également avec la stratégie chinoise, qui privilégie la stabilité sociale et le contrôle de l’État.
Quelques sanctions et mécanismes de surveillance
Les États membres de l’UE disposent désormais jusqu’au 2 août pour désigner les autorités de surveillance chargées d’appliquer ces règles. En cas de non-conformité, les entreprises s’exposent à des amendes allant de 1,5 % à 7 % de leur chiffre d’affaires mondial total, un montant significatif destiné à dissuader tout comportement abusif.
Ces lignes directrices témoignent de l’ambition de l’UE de positionner la sécurité, l’éthique et la transparence au cœur de l’innovation technologique, tout en protégeant les droits des citoyens face à un déploiement toujours plus omniprésent de l’intelligence artificielle. Ce cadre réglementaire devrait, à terme, contribuer à un usage responsable de l’IA et instaurer un climat de confiance propice au développement harmonieux de cette technologie.