Le gouverneur de Californie, Gavin Newsom, a signé une législation innovante obligeant les plus grandes entreprises d'intelligence artificielle au monde à divulguer publiquement leurs protocoles de sécurité et à signaler les incidents critiques sur leurs plateformes, ont annoncé lundi les législateurs de l'État.

Le projet de loi du Sénat numéro 53 représente la démarche la plus importante de la Californie à ce jour pour réglementer le secteur de l'IA, qui progresse rapidement dans la Silicon Valley, tout en maintenant son statut de centre technologique mondial.

Le sénateur Scott Wiener, parrain du projet de loi, a déclaré dans un communiqué : « Avec une technologie aussi transformative que l'IA, nous avons la responsabilité de soutenir cette innovation tout en établissant des garde-fous raisonnables. »

La nouvelle loi marque la deuxième tentative réussie de Wiener pour établir des règles garantissant la sécurité de l'IA après que Newsom a opposé son veto à son précédent projet de loi, le projet de loi du Sénat numéro 1047, en raison d'une forte opposition du secteur technologique.

Cela fait également suite à une tentative infructueuse de l'administration de l'ancien président américain Donald Trump d'empêcher les États d'adopter des règles sur l'IA, arguant que cela créerait un chaos réglementaire et ralentirait l'innovation américaine dans la course avec la Chine.

La nouvelle loi oblige les grandes entreprises d'IA à divulguer publiquement leurs protocoles de sécurité et de sûreté dans un format révisé pour protéger la propriété intellectuelle.

Elles doivent également informer les responsables de l'État des incidents critiques de sécurité, y compris les menaces d'armes, les cyberattaques majeures ou la perte de contrôle des modèles, dans un délai maximal de 15 jours.

La législation prévoit également une protection pour les lanceurs d'alerte parmi les employés qui révèlent des preuves de risques ou de violations.

Selon Wiener, l'approche californienne diffère de la loi européenne sur l'IA, qui exige des divulgations privées aux agences gouvernementales, en imposant une divulgation publique pour renforcer la responsabilité.