Un juez suspendió temporalmente una nueva ley de California que restringe la sátira política generada por inteligencia artificial después de que un YouTuber y el sitio de sátira cristiana The Babylon Bee presentaran una demanda. El juez de distrito estadounidense John A. Méndez dictaminó que, aunque los “deepfakes” plantean riesgos importantes, la ley probablemente viola los derechos de la Primera Enmienda.
El gobernador de California, Gavin Newsom, firmó tres leyes que entraron en vigor el mes pasado destinadas a combatir el contenido electoral ultrafake. Los deepfakes son imágenes, vídeos u otro contenido digital que parecen reales pero que han sido manipulados para mostrar información falsa.
“Salvaguardar la integridad de las elecciones es esencial para la democracia”, dijo Newsom en un comunicado. “Es fundamental que garanticemos que la IA no se utilice para socavar la confianza del público mediante la desinformación, especialmente en el tenso clima político actual”.
Una de las leyes, AB 2839, restringe la publicación y el intercambio de contenido “engañoso” relacionado con las elecciones. Prohíbe la IA o las representaciones ultrafalsas de candidatos “haciendo o diciendo algo que el candidato no hizo ni dijo”.
A los pocos minutos de la firma de los proyectos de ley, el YouTuber Christopher Kohls presentó una demanda por la AB 2839 y otra de las leyes, según sus abogados. La segunda ley que Kohls impugnó, AB 2655, exige que las empresas de redes sociales eliminen el contenido deepfake a partir del 1 de enero.
Kohls sostiene que las dos leyes violan el derecho a la libertad de expresión de la Primera Enmienda, incluida la sátira política.
Kohls, conocido por su nombre de usuario en las redes sociales “Mr Reagan”, crea contenido electoral satírico y falso que utiliza narraciones generadas por inteligencia artificial que imitan las voces de los políticos.
Kohls afirma que Newsom aceleró las leyes después de que el YouTuber publicara un video de parodia en julio burlándose de la candidatura presidencial de la vicepresidenta Kamala Harris. Dos días después, Newsom denunció el vídeo en X, afirmando que “manipular una voz en un ‘anuncio’ como este debería ser ilegal. Firmaré un proyecto de ley en cuestión de semanas para asegurarme de que así sea”.
En su fallo del miércoles, Méndez emitió una orden judicial preliminar a favor de Kohls. El juez consideró probable que la AB 2839 fuera considerada inconstitucional en el juicio, por lo que suspendió temporalmente la ley.
El caso a favor de la ley que exige a las empresas de redes sociales retirar contenido deepfake aún está en proceso.
Méndez señaló que si bien las legislaturas de California tienen un interés “válido” en proteger la información electoral de los medios alterados digitalmente, la AB 2839, la ley que restringe los deepfakes, es demasiado amplia.
“La mayor parte de AB 2839 actúa como un martillo en lugar de un bisturí”, escribió Méndez. “El precedente de la Corte Suprema ilustra que, si bien un temor bien fundado a un panorama mediático manipulado digitalmente puede estar justificado, este temor no otorga a los legisladores una licencia desenfrenada para arrasar con una excavadora la larga tradición de crítica, parodia y sátira protegida por la Primera Enmienda”.
Añadió que la ley prohíbe el “intercambio irrestricto de ideas que es tan vital para el debate democrático estadounidense”.
La ley estableció una excepción para la publicación de contenido satírico si incluía un descargo de responsabilidad en un tamaño de fuente “no menor que el tamaño de fuente más grande de otro texto que aparece en los medios visuales”. Pero Méndez consideró que esta excepción era ineficaz.
“(En) el caso de Kohls, este requisito hace que su video sea casi imposible de ver, obstruyendo la totalidad del cuadro”, dijo Méndez. “El carácter obstructivo de este requisito es preocupante porque la parodia y la sátira han transmitido mensajes creativos e importantes en la política estadounidense”.
El rápido fallo de Méndez sobre la primera ley fue vital para esta temporada electoral, dijo Adam Schulman, abogado que representa a Kohls.
“Dará libertad a los ciudadanos comunes en Internet para criticar a los funcionarios públicos y a los candidatos como lo han hecho durante cientos de años en la historia de Estados Unidos, sin la amenaza de responsabilidad civil”, dijo.
The Babylon Bee y una abogada de California, Kelly Chang Rickert, también demandaron por las leyes unas dos semanas después de Kohls. Su demanda conjunta argumentó que las leyes impiden la capacidad de The Babylon Bee de publicar contenido paradójico y la capacidad de Rickert de publicar o compartir cualquier publicación satírica.
Los políticos de California abusaron de su poder al intentar “controlar el discurso público y reprimir la comedia” a través de las leyes, dijo en un comunicado el director ejecutivo de Babylon Bee, Seth Dillon.
La orden judicial preliminar del juez no es clara en cuanto al alcance de su protección: California podría argumentar que el fallo protege sólo a Kohls, dijo Jonathan Scruggs, abogado principal de Alliance Defending Freedom, que representa a The Babylon Bee y Rickert. ADF está impulsando su caso, pidiendo a los tribunales que emitan un fallo que claramente proteja también a esas dos partes, dijo Scruggs.
Las leyes sobre falsificaciones de California son preocupantemente vagas y amplias, añadió Scruggs. Si alguien en el estado comparte una publicación deepfake, esa persona podría enfrentar un proceso legal.
“Eso es extremadamente amplio y tiene (un) efecto paralizador extremo”, dijo Scruggs, calificándolo de un “gran paso” hacia la censura. “Si eres una persona común y corriente, no estás seguro de lo que cubre esta ley. Para evitar que te demanden, es posible que no digas nada en absoluto”.
Los legisladores han propuesto casi 120 proyectos de ley que regulan las publicaciones generadas por IA en 42 estados, según Voting Rights Lab, una organización no partidista que rastrea las leyes electorales. Sin embargo, no ha habido ninguna legislación en el país que llegue tan lejos como la de California, dijo Scruggs.
“Esfuerzos como este para censurar el debate político central y la discusión política en nombre de la desinformación son algo aterrador”, dijo Scruggs. “No deberíamos confiar en que los funcionarios políticos decidan qué es verdadero y qué es falso en nuestros debates políticos en línea”.
