Bouaké, Côte d'Ivoire djafdemos@gmail.com (+225)  0758904243 / 0556807119
pub

International / AI Act : les grandes lignes du code européen de bonnes pratiques, finalement publié

En cas de perturbation irréversible d'infrastructures critiques, merci de signaler l'incident sous 2 jours maximum.

Le code européen de bonnes pratiques pour les fournisseurs de modèles d'IA à usage général comprend une telle mesure. Sa version finale vient d'être publiée. Le Bureau de l'IA (Commission européenne) et le Comité de l'IA (États membres) doivent encore l'approuver officiellement, par l'intermédiaire d'une décision d'adéquation.

En toile de fond, l'entrée en application imminente - le 2 août 2025 - des dispositions de l'AI Act encadrant les modèles en question. Le code de bonnes pratiques doit plus particulièrement aider à la mise en conformité avec les articles 53 (transparence et droit d'auteur) et 55 (sûreté et sécurité) ; ce dernier ne s'appliquant qu'aux modèles présentant des risques systémiques.

Les travaux sur cet instrument non contraignant avaient officiellement démarré il y a près d'un an (ouverture d'un appel à manifestation d'intérêt fin juillet 2024). Ils auront impliqué, d'après Bruxelles, "plus de 1400 parties prenantes". Dont, côté français :

  • Atos
  • Banque de France
  • CNRS
  • CeSIA (Centre pour la sécurité de l'IA)
  • CNCC (Compagnie nationale des commissaires aux comptes)
  • CNIL
  • Dassault Systèmes
  • France Digitale
  • Giskard
  • Inria
  • LightOn
  • Mistral AI
  • Numeum
  • Pleias
  • Orange
  • Vivendi

Robots.txt... et les autres : un code de bonnes pratiques peu directif sur le droit d'auteur

Le code est censé être réexaminé au moins tous les 2 ans. Les fournisseurs de modèles à risque systémique qui y adhéreront bénéficieront d'une présomption de bonne foi jusqu'au 2 août 2026. Pour les autres modèles, les obligations de l'AI ne s'appliqueront qu'au 2 août 2027.

Des lignes directrices le compléteront dans les prochaines semaines. Élaborées à l'appui d'une consultation publique menée en avril-mai, elles clarifieront trois points :

  • Qualification des modèles à usage général
  • Qualification du risque systémique
  • Qualification des fournisseurs de ce type de modèle

L'essentiel du code est constitué par la partie "sûreté/sécurité".
Sur le volet transparence, un formulaire standard est mis à disposition des fournisseurs (cf. notre article à ce sujet).
Pour ce qui est du droit d'auteur et des droits voisins, on retiendra, entre autres mesures à respecter :

  • Ne pas contourner les mesures techniques décrites à l'article 6.3 de la directive copyright (2001/29)

  • S'abstenir de crawler les sites dont des tribunaux ou autorités publiques européennes ont jugé qu'ils mettent à disposition du public, de façon industrielle, des contenus en infraction (une liste d'URL sera publiée)

  • Se conformer aux déclarations de droits formulées via robots.txt

  • Respecter plus globalement les autres protocoles appropriés adoptés par des organisations de normalisation, largement diffusés, envisagés par différents secteurs culturels et dont l'acceptation résulte d'un "processus de discussion inclusif au niveau européen"

  • S'assurer que ces pratiques n'aient pas d'effets indésirables sur l'indexation des contenus, des domaines et des URL concernés

Une (petite) mention pour l'IA agentique



La partie sûreté/sécurité englobe essentiellement l'identification des risques, leur analyse, l'évaluation de leur caractère acceptable et les éventuelles mesures à implémenter pour qu'ils le soient.

Les fournisseurs devront, dans cet esprit, établir une politique de gestion de cycle de vie. Ils la réviseront tous les ans. Ou plus tôt s'il y a lieu de penser que le cadre ou ses conditions de mise en oeuvre ne sont plus convenables. Par exemple à cause d'un incident sérieux ou d'un changement important dans la façon de développer des modèles.

Pour chaque risque, il faudra définir des niveaux, dont au moins un encore non atteint... et estimer à quel moment il pourrait l'être. Le code laisse une grande marge pour ce qui est des indicateurs : scores, matrices, distributions de probabilités "ou autres formats adéquats".

Le suivi après la mise sur le marché impliquera de donner à "un nombre adéquat d'évaluateurs externes" un accès gratuit à :

  • La version la plus performante du modèle au regard du risque concerné
  • La version correspondante jugée la moins sûre
  • Les chaînes de pensée, si disponibles

L'IA agentique a droit à une mention, dans le contexte des mesures destinées à renforcer la sûreté des modèles. Le code évoque, en particulier :

  • Nettoyage des données d'entraînement
  • Filtrages des entrées et des sorties
  • Fine-tuning pour ajuster le comportement
  • Limitation de l'accès (API restreinte, déploiement progressif, publication non immédiate des poids, etc.)
  • Mise à disposition d'outils pour permettre aux tiers d'atténuer les risques

Sont aussi mentionnées des "techniques [favorisant] les écosystèmes d'agents IA". Parmi elles, des outils de suivi des incidents et des protocoles de communication spécialisés.

Pour faciliter l'interprétation de leurs évaluations par le Bureau de l'IA, les fournisseurs communiqueront, pour chacune, au moins 5 exemples aléatoires d'inputs et d'outputs. Ils anticiperont plus généralement, dans leurs rapports adressés à cet organe, en quoi le développement et l'usage des modèles peuvent faire émerger des risques systémiques.

Des délais pour signaler certains incidents

Le code aborde aussi la notion de responsabilité, qu'il invite à définir sous quatre angles :

  • Processus de gestion des risques systémiques
  • Accompagnement à la réalisation de ce processus
  • Supervision de ce processus
  • Assurance d'adéquation de ce processus

Comme sus-évoqué, les perturbations sérieuses et irréversibles d'infras critiques devront être signalées au plus tard deux jours après que le fournisseur en aura pris connaissance. Ce sera :

  • 5 jours en cas de faille de sécurité sérieuse (dont exfiltration de poids)
  • 10 jours s'il y a décès de personne
  • 15 jours pour une atteinte sérieuse à la santé d'une personne, aux droits fondamentaux, à la propriété ou à l'environnement

La partie sûreté/sécurité comporte quatre annexes.
La première liste des catégories de risques systémiques et des caractéristiques qui y contribuent.
La deuxième ouvre la voie à la définition de modèles de référence sur lesquels les fournisseurs pourraient s'appuyer pour démontrer la sûreté d'autres modèles;
La troisième comprend des qualifications indicatives pour les évaluateurs (dispose d'un PhD pertinent par rapport au risque concerné, a publié une méthode d'évaluation pertinente, a au moins trois ans d'expérience dans un champ disciplinaire pertinent, etc.). Elle recommande de se donner au moins 20 jours ouvrés pour réaliser une évaluation interne ; et autant pour recruter des évaluateurs externes.
La quatrième présente des objectifs et des mesures d'atténuation des risques de sécurité. Notamment pour la protection des paramètres non publiés :

  • Tenue d'un registre interne des appareils stockant ces paramètres
  • Interdiction de copie sur des appareils non autorisés
  • Protection lors du transport (chiffrement 256 bits au minimum avec stockage des clés sur TPM)

  • Restriction d'accès lors de l'usage, par exemple en implémentant l'informatique confidentielle

NB.: Les images ont été générées par IA

DD pour LEWI 24


Source : www.silicon.fr



0 Commentaire(s)


Veuillez laisser votre commentaire

Votre address mail ne sera pas publié. Les champs marqués de " * " sont obligatoire.

Nous Soumettre votre besoin

Vous pourrez avoir besoin de personnaliser votre projet selon vos moyens. Ne manquez surtout pas de nous l'envoyer.

Soumettre à notre analyse
x