California promulgó el lunes una legislación histórica para proteger a los niños que utilizan tecnologías emergentes como la inteligencia artificial y las redes sociales, según un comunicado de la oficina del gobernador Gavin Newsom. Las tecnologías emergentes como los chatbots de inteligencia artificial y las plataformas de redes sociales pueden educar e inspirar a los usuarios, pero también explotarán y pondrán en peligro a los niños si esa tecnología no tiene barreras de seguridad, dijo Newsom en el comunicado del lunes. El gobernador citó un número creciente de historias de terror sobre niños que resultan perjudicados por la tecnología no regulada. California debe tomar un liderazgo responsable en el desarrollo de la IA y proteger a los niños en cada paso, dijo.
¿Qué requisitos incluye la ley? La legislación exige que las plataformas de chatbot de IA creen protocolos para identificar y abordar cuando un usuario habla de pensamientos o acciones suicidas. Las plataformas también deben decirles claramente a los usuarios que las interacciones del bot son completamente falsas, evitar que los menores vean imágenes sexualmente explícitas generadas por IA y prohibir que los chatbots se representen a sí mismos como profesionales de la salud. Las empresas de IA no pueden eludir su responsabilidad argumentando que los chatbots y los programas de IA actúan de forma autónoma, según la ley.
La ley también exige que los sistemas operativos y las tiendas de aplicaciones utilicen verificaciones de edad para evitar que los niños accedan a contenido en línea inapropiado o peligroso. Las plataformas de redes sociales también deben incluir etiquetas que adviertan a los usuarios sobre los daños que conlleva el desplazamiento excesivo. La ley refuerza las penas en torno a la pornografía deepfake y ahora permite que todas las víctimas, incluidos los menores, demanden por hasta 250.000 dólares a terceros que, a sabiendas, ayuden a distribuir los materiales ilícitos. El departamento de educación del estado y sus agencias locales también tienen la tarea de adoptar una política sobre cómo abordar los informes de acoso cibernético fuera del horario escolar.
La Asociación Médica de California celebró la ratificación de la ley, específicamente la parte que prohíbe a los sistemas de inteligencia artificial representarse a sí mismos como profesionales médicos autorizados. El estatuto marcó una victoria esencial hacia la seguridad y la transparencia del paciente, afirmó la presidenta de la asociación, Shannon Udovic-Constant, en el comunicado de prensa del lunes.
