Intelligence artificielle : De nouvelles lois prises pour encadrer l’industrie de l'IA en Californie

LES LEGISLATEURS ONT APPROUVE UNE SERIE DE LOIS POUR ENCADRER L'INDUSTRIE DE L'IA DANS L'ETAT DE LA CALIFORNIE (PH:DR)

High tech

L’industrie de l’intelligence artificielle (IA) tend vers une légalisation et une libéralisation dans l’Etat de la Californie. Au cours de cette semaine, les législateurs californiens ont approuvé une série de propositions législatives afin d’encadrer l’écosystème de l’intelligence artificielle (IA).

La session législative, dominée par les démocrates, a vu l'adoption de mesures significatives pour réguler les vidéos hyper-truquées et protéger les travailleurs vulnérables. Aussi, ces initiatives interviennent dans un contexte où l'utilisation de l'Intelligence Artificielle connaît une expansion rapide, soulevant des préoccupations en matière de sécurité, de vie privée, et d'exploitation. Le gouverneur Gavin Newsom, qui a jusqu'au 30 septembre pour ratifier ou rejeter ces propositions, devra trancher sur ces questions cruciales pour l'avenir technologique de l'État.

Lutte contre les vidéos hyper-truquées

Les législateurs californiens ont donné leur feu vert à une législation visant à interdire la diffusion de vidéos hyper-truquées en période électorale. Ces vidéos, qui manipulent l'image et la voix des candidats à l'aide de l'IA, sont perçues comme une menace sérieuse pour l'intégrité des élections. La nouvelle loi obligerait les grandes plateformes de médias sociaux à retirer tout contenu trompeur 120 jours avant le scrutin et dans les 60 jours qui suivent.

En parallèle, une autre mesure impose aux campagnes politiques de divulguer publiquement l'utilisation de matériel modifié par l'IA dans leurs publicités. Ces initiatives visent à protéger les électeurs contre la manipulation numérique et à assurer des élections plus transparentes.

Protection contre les abus sexuels numériques

Face à la montée de l'utilisation des outils d'IA pour créer des images et des vidéos d'abus sexuels sur des enfants, la législature californienne a adopté des lois pour réprimer cette pratique. Ces nouvelles mesures rendent illégale la création et la distribution de ce type de contenu généré par l'IA, comblant ainsi un vide juridique qui empêchait jusqu'à présent les poursuites.

Ces plateformes aident également aux prédateurs, proxénètes, réalisateurs de film porno à trouver leurs victimes , qui sont parfois prêtes à sauter le pas dans la prostitution pour de l’argent. Prostitution qu’on connaît assez bien pour ses méfaits sur la société pic.twitter.com/78xc70slfV
— brindib (@brindibouu1) August 29, 2024

Les procureurs de district pourront désormais agir contre les responsables de ces abus numériques, même si le matériel en question ne représente pas une personne réelle. Cette avancée législative est une réponse directe aux inquiétudes croissantes concernant la prolifération de ce contenu illicite.

Transparence des données et sécurité des modèles d'IA

Une autre proposition approuvée par les législateurs oblige les développeurs d'IA à divulguer les données utilisées pour entraîner leurs modèles. Cette mesure, pionnière aux États-Unis, vise à accroître la transparence dans le développement de l'IA et à prévenir des catastrophes potentielles liées à des décisions automatisées.

Les entreprises technologiques seront également tenues de fournir aux utilisateurs des outils de détection d'IA pour mieux identifier les contenus modifiés. Ces régulations cherchent à renforcer la compréhension du public sur le fonctionnement des modèles d'IA et à garantir leur usage éthique.

Protection des travailleurs contre l'exploitation par l'IA

Inspirés par la grève des acteurs hollywoodiens l'année dernière, les législateurs ont voté en faveur d'une loi visant à protéger les travailleurs contre le remplacement par des clones générés par l'IA. Cette législation concerne notamment les doubleurs et les interprètes de livres audio, et reflète les accords conclus entre la SAG-AFTRA et les studios.

Cette mesure, pionnière aux États-Unis, vise à accroître la transparence dans le développement de l'IA et à prévenir des catastrophes potentielles liées à des décisions automatisées.

Par ailleurs, une proposition interdit aux agences étatiques et locales d'utiliser l'IA pour remplacer les travailleurs des centres d'appels. En parallèle, des sanctions sont prévues pour le clonage numérique de personnes décédées sans le consentement de leurs héritiers. Ces mesures montrent la volonté de la Californie de protéger les travailleurs face aux avancées technologiques.

Éducation et formation en intelligence artificielle

Les législateurs californiens ont également adopté des propositions visant à intégrer l'IA dans le système éducatif. Un groupe de travail sera créé pour étudier l'intégration des compétences en IA dans les programmes scolaires, couvrant les matières telles que les mathématiques, les sciences, l'histoire et les sciences sociales.