L'Intelligence Artificielle Générative déchaîne un Débat Juridique : Le Dilemme des Deepfakes
Dans une affaire qui semble encapsuler les paradoxes de notre ère numérique, un défi fondé sur le Premier Amendement a émergé contre la loi anti-deepfake du Minnesota. Cette loi criminalise la diffusion de contenus générés par l'IA destinés à influencer les élections dans un délai de 90 jours avant le vote. Cela a conduit à une bataille juridique qui met en lumière les préoccupations croissantes concernant l'utilisation de l'IA générative dans les processus juridiques. Lire plus.
L'incident récent implique une soumission au tribunal remplie de fausses citations, fournie par un professeur de Stanford qui s'est appuyé sur l'IA générative. La soumission a atteint le procureur général du Minnesota, Keith Ellison, provoquant une réaction de la cour du district du Minnesota — décrite par certains comme "L'ironie". L'affaire attire l'attention sur la fiabilité réelle des documents juridiques générés par l'IA.
Alors que les modèles d'IA, tels que le GPT-4o, fournissent de plus en plus de citations fictives, les tribunaux ont été incités à envisager l'établissement de nouvelles directives. Soulignant cette initiative, la Règle 11 des Règles fédérales de procédure civile impose la vérification de l'exactitude des documents déposés au tribunal. Les professionnels du droit sont rappelés à leur devoir de vérifier soigneusement le contenu généré par l'IA avant de le soumettre au tribunal.
Ce défi au Minnesota n'est pas unique. Le tribunal des successions de l'État de New York a également rencontré des complications dans l'affaire Weber. Cela impliquait des rapports d'experts intégrant l'outil d'IA Copilot de Microsoft, ce qui s'ajoute à une liste croissante d'incidents similaires dans le paysage juridique.
En conséquence, des entités juridiques comme les Cours Suprêmes des États-Unis et diverses associations du barreau ne restent pas inactives. Des comités se forment pour réglementer et garantir l'authenticité des preuves générées par l'IA. Il existe des propositions visant à maintenir la fiabilité des preuves produites par l'IA, conformes aux normes existantes telles que la Règle 902(b) et la Règle 702 des Règles fédérales de preuve.
Au milieu de ces évolutions, des changements significatifs dans les règles de procédure sont anticipés. Les comités consultatifs réexaminent activement les Règles de preuve pour éventuellement intégrer de nouvelles normes s'adressant spécifiquement aux contenus générés par l'IA. Cela marque un moment charnière dans l'adaptation des cadres juridiques aux technologies évolutives qui façonnent de plus en plus notre monde.
Pour ceux souhaitant suivre les implications en développement de l'IA dans le système juridique, il sera essentiel de rester informé. Le climat actuel dans les cercles juridiques reflète l'urgence de traiter non seulement le potentiel, mais aussi les écueils de l'IA en tant qu'outil influent dans des environnements à haut risque comme les salles d'audience.
