« Si vous voyez Meloni en chemise de nuit au lit à moitié nue » : l'antidote italien contre les deepfakes de l'IA

Le gouvernement italien a fait un pas en avant pour diriger la réglementation de l'intelligence artificielle en Europe. Le Conseil des ministres, présidé par Giorgia Meloni, a approuvé mercredi deux décrets législatifs clés visant à ordonner l'utilisation de cette technologie dans des secteurs à fort impact : les forces de sécurité, le système éducatif et le marché du travail.

Avec cette manœuvre, l’exécutif de Rome cherche à poser des limites aux algorithmes avant qu’ils n’échappent au contrôle humain. « L'Italie devient la première nation dotée d'une discipline réglementaire nationale et organique en matière d'IA », a célébré le sous-secrétaire de la présidence, Alfredo Mantovano, rappelant que ces mesures complètent la loi déjà approuvée l'année dernière. Le texte final doit être ratifié par le Parlement italien dans un délai de 60 jours.

« Meloni en chemise de nuit »: l'avertissement du premier ministre

Giorgia Meloni elle-même a voulu défendre cette cause lors d'un discours devant l'assemblée du patronat Confcommercio. Le Premier ministre a mis en garde contre l'érosion alarmante de la vérité et le danger que représente pour les démocraties un monde où « il est difficile de distinguer ce qui est réel ».

Pour illustrer le problème de contrefaçons profondes et manipulation de contenu, Meloni a eu recours à l'ironie en partageant une expérience personnelle. « Si vous voyez Meloni en chemise de nuit au lit, à moitié nue, quelqu'un ne devrait pas publier la photo en se demandant s'il est normal qu'un Premier ministre apparaisse comme ça. Qu'elle dise que l'image a été créée avec l'IA », a-t-il proposé sous les applaudissements du public.

Le dirigeant italien a profité de la tribune pour lancer un appel à la communauté internationale, exigeant qu'elle soit obligée d'étiqueter de manière claire et sans équivoque toute image générée par l'IA avec un texte superposé indiquant son origine artificielle.

Freins sur « Big Brother »

Le premier décret approuvé se concentre sur les commissariats de police et l'ordre public. Le ministre de l'Intérieur, Matteo Piantedosi, a été catégorique en assurant que l'IA est un outil de soutien utile, mais qu' »en aucun cas elle ne doit remplacer les décisions humaines ».

Le texte juridique établit un cadre strict pour éviter les dérives dystopiques. Ainsi, la norme détermine que l'utilisation de l'IA dans le travail de la police doit toujours être proportionnée et surveillée par du personnel humain qualifié, garantissant une surveillance adéquate. De même, des règles très strictes sont fixées en matière de reconnaissance faciale et d'identification biométrique en temps réel à des fins répressives, tandis que les banques de données enrichies grâce à la collecte massive sont totalement interdites. Avec ces limites, le ministre Piantedosi a promis qu'aucune sorte de « Big Brother » généralisé ne s'établirait dans les rues du pays.

Par ailleurs, la règle exigera la mise en place de formations spécifiques afin que les forces de sécurité de l’État apprennent à gérer et auditer correctement ces outils.

Emploi et salles de classe : le licenciement par algorithme est interdit

Le deuxième décret impacte pleinement l’éducation et le tissu socio-professionnel. Dans les salles de classe, le ministre de l'Éducation, Giuseppe Valditara, a défendu la nécessité d'introduire l'IA dans les programmes de formation de l'école au secondaire. « L'idée est d'habituer les enfants au langage de l'IA », explique-t-il, dans le but de sensibiliser les jeunes aux risques et aux biais de cet écosystème numérique.

Le lieu de travail, quant à lui, bénéficie d’une protection cruciale contre une automatisation excessive. La ministre du Travail, Marina Calderone, a annoncé que le décret interdirait strictement que les décisions clés concernant la vie professionnelle d'un employé soient laissées entre les mains d'un algorithme.

« Les décisions qui affectent l'emploi, comme l'embauche, la modification des conditions contractuelles, le licenciement ou les sanctions disciplinaires, ne pourront pas être adoptées exclusivement par un système automatique », a déclaré Calderone.