SB1047
From Wikipedia, the free encyclopedia
Cet article est orphelin. Moins de trois articles lui sont liés ().
La Loi sur l'Innovation Sécurisée et Sûre pour les Modèles d'Intelligence Artificielle de Pointe, ou SB 1047, est un projet de loi californien de 2024 visant à « atténuer le risque de dommages catastrophiques provenant de modèles d'IA si avancés qu'ils ne sont pas encore connus pour exister »[1]. Plus précisément, le projet de loi s'appliquerait aux modèles dont le coût d'entraînement dépasse 100 millions de dollars et qui ont été entraînés en utilisant une quantité de puissance de calcul supérieure à 1026 opérations entières ou flottantes[2]. SB 1047 s'appliquerait à toutes les entreprises d'IA faisant des affaires en Californie—l'emplacement de l'entreprise n'a pas d'importance[3]. Le projet de loi crée des protections pour les lanceurs d'alerte[4] et exige que les développeurs effectuent des évaluations des risques de leurs modèles avant leur sortie, sous la supervision de l'Agence des Opérations Gouvernementales. Il établirait également CalCompute, un cluster de informatique en nuage public Université de Californie destiné aux startups, chercheurs et groupes communautaires.
L'augmentation rapide des capacités des systèmes d'IA dans les années 2020, y compris le lancement de ChatGPT en novembre 2022, a conduit certains chercheurs et membres du public à exprimer des préoccupations concernant les risques existentiels associés aux systèmes d'IA de plus en plus puissants[5],[6]. La plausibilité de cette menace est largement débattue[7]. La régulation de l'IA est également parfois préconisée pour prévenir les biais et les violations de la vie privée[6]. Cependant, elle a été critiquée comme pouvant potentiellement mener à une capture règlementaire par les grandes entreprises d'IA telles que OpenAI, où la régulation favoriserait les intérêts des grandes entreprises au détriment des plus petites et du public en général[6].
En mai 2023, des centaines de cadres technologiques et de chercheurs en IA[8] ont signé une déclaration sur le risque d'IA, qui disait "Atténuer le risque d'extinction de l'IA devrait être une priorité mondiale aux côtés d'autres risques à l'échelle sociétale tels que les pandémies et la guerre nucléaire." Elle a reçu les signatures des deux chercheurs en IA les plus cités[9],[10],[11], Geoffrey Hinton et Yoshua Bengio, ainsi que des figures de l'industrie telles que le PDG de OpenAI Sam Altman, le PDG de Google DeepMind Demis Hassabis, et le PDG de Anthropic Dario Amodei[12],[13]. De nombreux autres experts pensaient que les préoccupations existentielles étaient exagérées et irréalistes, ainsi qu'une distraction des dommages à court terme de l'IA, par exemple la prise de décision automatisée discriminatoire[14]. Célèbrement, Sam Altman a fortement demandé une régulation de l'IA au Congrès lors d'une audition le même mois[6],[15]. Plusieurs entreprises technologiques ont pris des engagements volontaires pour mener des tests de sécurité, par exemple lors du Sommet sur la sécurité de l'IA et du Sommet IA de Séoul[16],[17].
Le gouverneur Newsom de Californie et le président Biden ont émis des ordres exécutifs sur l'intelligence artificielle en 2023[18],[19],[20]. Le sénateur d'État Wiener a déclaré que le SB 1047 s'inspire fortement de l'ordre exécutif de Biden, et est motivé par l'absence d'une législation fédérale unifiée sur la sécurité de l'IA[21]. La Californie a déjà légiféré sur des questions technologiques, y compris la confidentialité des consommateurs et la neutralité du net, en l'absence d'action du Congrès[22],[23].
Histoire
Le projet de loi a été initialement rédigé par Dan Hendrycks, cofondateur du Centre pour la Sécurité de l'IA, qui a déjà soutenu que les pressions évolutives sur l'IA pourraient conduire à "une voie menant à être supplanté comme l'espèce dominante de la Terre"[24],[25]. Le centre a publié une déclaration en mai 2023 signée par Elon Musk et des centaines d'autres dirigeants d'entreprise déclarant que "Atténuer le risque d'extinction de l'IA devrait être une priorité mondiale aux côtés d'autres risques à l'échelle sociétale tels que les pandémies et la guerre nucléaire."[26]
Le sénateur d'État Wiener a d'abord proposé une législation sur l'IA pour la Californie via un projet de loi d'intention appelé SB 294, la Loi sur la Sécurité dans l'Intelligence Artificielle, en septembre 2023[27],[28],[29]. SB 1047 a été introduit par Wiener le 7 février 2024[30],[24].
Le 21 mai, SB 1047 a été adopté par le Sénat avec un vote de 32-1[31],[32]. Le projet de loi a été significativement modifié par Wiener le 15 août 2024 en réponse aux conseils de l'industrie[33]. Les amendements incluaient l'ajout de clarifications et la suppression de la création d'une "Division des Modèles de Pointe" et de la pénalité de parjure[34],[35].
Le 28 août, le projet de loi a été adopté par l'Assemblée d'État avec un vote de 48-16. Ensuite, en raison des amendements, le projet de loi a de nouveau été voté par le Sénat, passant 30-9[36],[37].
Le 29 septembre, le gouverneur Gavin Newsom a opposé son veto au projet de loi. Il est considéré peu probable que la législature annule le veto du gouverneur avec un vote des deux chambres à deux tiers[38].
Dispositions
Avant l'entraînement du modèle, les développeurs des modèles couverts et de leurs dérivés doivent soumettre une certification, sujette à audit, de l'atténuation des risques "raisonnables" de "dommages critiques" du modèle couvert et de ses dérivés, y compris les modifications post-entraînement. Les sauvegardes pour réduire les risques incluent la capacité d'éteindre le modèle[4], qui a été décrite de diverses manières comme un "interrupteur d'arrêt"[39] et un "circuit breaker"[40]. Les dispositions sur les lanceurs d'alerte protègent les employés qui signalent des problèmes de sécurité et des incidents[4].
SB 1047 créerait également un cluster d'informatique en nuage public appelé CalCompute, associé à l'Université de Californie, pour soutenir les startups, les chercheurs et les groupes communautaires qui manquent de ressources informatiques à grande échelle[34].
Modèles couverts
SB 1047 couvre les modèles d'IA avec une puissance de calcul d'entraînement supérieure à 1026 opérations entières ou flottantes et un coût de plus de 100 millions de dollars[2],[41]. Si un modèle couvert est affiné en utilisant plus de 10 millions de dollars, le modèle résultant est également couvert[35].
Dommages critiques
Les dommages critiques sont définis en fonction de quatre catégories[1],[42] :
- Création ou utilisation d'une arme chimique, d'un agent biologique, d'une guerre radiologique, ou d'une arme nucléaire
- Cyberattaques sur des infrastructures critiques causant des victimes de masse ou au moins 500 millions de dollars de dommages
- Crimes autonomes causant des victimes de masse ou au moins 500 millions de dollars de dommages
- Autres dommages de gravité comparable
Conformité et supervision
SB 1047 exigerait que les développeurs, à partir du 1er janvier 2026, retiennent annuellement un auditeur tiers pour effectuer un audit indépendant de la conformité avec les exigences du projet de loi, comme prévu[34]. L'Agence des Opérations Gouvernementales examinerait les résultats des tests de sécurité et des incidents, et émettrait des directives, des normes et des meilleures pratiques[34]. Le projet de loi crée un Conseil des Modèles de Pointe pour superviser l'application du projet de loi par l'Agence des Opérations Gouvernementales. Il est composé de 9 membres[41][Passage à actualiser].
