En cas de
perturbation irréversible d'infrastructures critiques, merci de signaler
l'incident sous 2 jours maximum.
Le code
européen de bonnes pratiques pour les fournisseurs de modèles d'IA à usage
général comprend une telle mesure. Sa version finale vient d'être publiée. Le
Bureau de l'IA (Commission européenne) et le Comité de l'IA (États membres)
doivent encore l'approuver officiellement, par l'intermédiaire d'une décision
d'adéquation.
En toile de
fond, l'entrée en application imminente - le 2 août 2025 - des
dispositions de l'AI Act encadrant les modèles en question. Le code de bonnes
pratiques doit plus particulièrement aider à la mise en conformité avec les
articles 53 (transparence et droit d'auteur) et 55 (sûreté et sécurité) ; ce
dernier ne s'appliquant qu'aux modèles présentant des risques systémiques.
Les travaux
sur cet instrument non contraignant avaient officiellement démarré il y a près
d'un an (ouverture d'un appel à manifestation d'intérêt fin juillet 2024). Ils
auront impliqué, d'après Bruxelles, "plus de 1400 parties prenantes".
Dont, côté français :
- Atos
- Banque de France
- CNRS
- CeSIA (Centre pour la sécurité
de l'IA)
- CNCC (Compagnie nationale des
commissaires aux comptes)
- CNIL
- Dassault Systèmes
- France Digitale
- Giskard
- Inria
- LightOn
- Mistral AI
- Numeum
- Pleias
- Orange
- Vivendi
Robots.txt...
et les autres : un code de bonnes pratiques peu directif sur le droit d'auteur
Le code est
censé être réexaminé au moins tous les 2 ans. Les fournisseurs de modèles à
risque systémique qui y adhéreront bénéficieront d'une présomption de bonne foi
jusqu'au 2 août 2026. Pour les autres modèles, les obligations de l'AI ne
s'appliqueront qu'au 2 août 2027.
Des lignes
directrices le compléteront dans les prochaines semaines. Élaborées à
l'appui d'une consultation publique menée en avril-mai, elles clarifieront
trois points :
- Qualification des modèles à
usage général
- Qualification du risque
systémique
- Qualification des fournisseurs
de ce type de modèle
L'essentiel
du code est constitué par la partie "sûreté/sécurité".
Sur le volet transparence, un formulaire standard est mis à disposition des
fournisseurs (cf. notre article à ce sujet).
Pour ce qui est du droit d'auteur et des droits voisins, on retiendra, entre
autres mesures à respecter :
- Ne pas contourner les mesures
techniques décrites à l'article 6.3 de la directive
copyright (2001/29)
- S'abstenir de crawler les sites
dont des tribunaux ou autorités publiques européennes ont jugé qu'ils
mettent à disposition du public, de façon industrielle, des contenus en
infraction (une liste d'URL sera publiée)
- Se conformer aux déclarations de
droits formulées via robots.txt
- Respecter plus globalement les
autres protocoles appropriés adoptés par des organisations de
normalisation, largement diffusés, envisagés par différents secteurs
culturels et dont l'acceptation résulte d'un "processus de discussion
inclusif au niveau européen"
- S'assurer que ces pratiques
n'aient pas d'effets indésirables sur l'indexation des contenus, des
domaines et des URL concernés
Une (petite) mention pour l'IA agentique

La partie
sûreté/sécurité englobe essentiellement l'identification des risques, leur
analyse, l'évaluation de leur caractère acceptable et les éventuelles mesures à
implémenter pour qu'ils le soient.
Les
fournisseurs devront, dans cet esprit, établir une politique de gestion de
cycle de vie. Ils la réviseront tous les ans. Ou plus tôt s'il y a lieu de
penser que le cadre ou ses conditions de mise en oeuvre ne sont plus
convenables. Par exemple à cause d'un incident sérieux ou d'un changement
important dans la façon de développer des modèles.
Pour chaque
risque, il faudra définir des niveaux, dont au moins un encore non atteint...
et estimer à quel moment il pourrait l'être. Le code laisse une grande marge
pour ce qui est des indicateurs : scores, matrices, distributions de
probabilités "ou autres formats adéquats".
Le suivi
après la mise sur le marché impliquera de donner à "un nombre adéquat d'évaluateurs externes" un accès gratuit à :
- La version la plus performante
du modèle au regard du risque concerné
- La version correspondante jugée
la moins sûre
- Les chaînes de pensée, si
disponibles
L'IA agentique a droit à une mention, dans le contexte
des mesures destinées à renforcer la sûreté des modèles. Le code évoque, en
particulier :
- Nettoyage des données
d'entraînement
- Filtrages des entrées et des
sorties
- Fine-tuning pour ajuster le
comportement
- Limitation de l'accès (API
restreinte, déploiement progressif, publication non immédiate des poids,
etc.)
- Mise à disposition d'outils pour
permettre aux tiers d'atténuer les risques
Sont aussi
mentionnées des "techniques [favorisant] les écosystèmes d'agents
IA". Parmi elles, des outils de suivi des incidents et des protocoles de communication spécialisés.
Pour
faciliter l'interprétation de leurs évaluations par le Bureau de l'IA, les
fournisseurs communiqueront, pour chacune, au moins 5 exemples aléatoires
d'inputs et d'outputs. Ils anticiperont plus généralement, dans leurs rapports
adressés à cet organe, en quoi le développement et l'usage des modèles peuvent
faire émerger des risques systémiques.
Des délais
pour signaler certains incidents
Le code
aborde aussi la notion de responsabilité, qu'il invite à définir sous quatre
angles :
- Processus de gestion des risques
systémiques
- Accompagnement à la réalisation
de ce processus
- Supervision de ce processus
- Assurance d'adéquation de ce
processus
Comme
sus-évoqué, les perturbations sérieuses et irréversibles d'infras critiques
devront être signalées au plus tard deux jours après que le fournisseur en aura
pris connaissance. Ce sera :
- 5 jours en cas de faille de
sécurité sérieuse (dont exfiltration de poids)
- 10 jours s'il y a décès de
personne
- 15 jours pour une atteinte
sérieuse à la santé d'une personne, aux droits fondamentaux, à la
propriété ou à l'environnement
La partie
sûreté/sécurité comporte quatre annexes.
La première liste des catégories de risques systémiques et des caractéristiques
qui y contribuent.
La deuxième ouvre la voie à la définition de modèles de référence sur lesquels
les fournisseurs pourraient s'appuyer pour démontrer la sûreté d'autres
modèles;
La troisième comprend des qualifications indicatives pour les évaluateurs
(dispose d'un PhD pertinent par rapport au risque concerné, a publié une
méthode d'évaluation pertinente, a au moins trois ans d'expérience dans un
champ disciplinaire pertinent, etc.). Elle recommande de se donner au moins 20
jours ouvrés pour réaliser une évaluation interne ; et autant pour recruter des
évaluateurs externes.
La quatrième présente des objectifs et des mesures d'atténuation des risques de
sécurité. Notamment pour la protection des paramètres non publiés :
- Tenue d'un registre interne des
appareils stockant ces paramètres
- Interdiction de copie sur des
appareils non autorisés
- Protection lors du transport
(chiffrement 256 bits au minimum avec stockage des clés sur TPM)
- Restriction d'accès lors de l'usage, par exemple en implémentant l'informatique confidentielle
NB.: Les images ont été générées par IA
DD pour LEWI 24
Source : www.silicon.fr

0 Commentaire(s)
Veuillez laisser votre commentaire
Votre address mail ne sera pas publié. Les champs marqués de " * " sont obligatoire.