Según The New York Times, OpenAI está investigando cómo y por qué sus agentes autónomos de IA intentaron obtener información de varios sitios web del gobierno de EE. UU. Esto incluye el Departamento de Educación, la Oficina del Censo y la publicación de datos de la Comisión de Bolsa y Valores en otro sitio web. A través de la BBC, la compañía detrás de ChatGPT enfatizó que los incidentes no fueron violaciones en toda regla y que toda la información gubernamental a la que accedieron sus agentes estaba disponible públicamente.
De hecho, los detalles son mucho menos dramáticos de lo que parecen inicialmente. El incidente del Departamento de Educación implicó simplemente un intento fallido de obtener datos de la oficina de derechos civiles del departamento. Los agentes también obtuvieron información de la Oficina del Censo utilizando herramientas orientadas a desarrolladores e información de la SEC disponible públicamente. Aún así, plantea dudas sobre cuánto control tienen realmente los desarrolladores sobre los agentes de IA. Después de todo, esto se produce después de un incidente en julio en el que un enjambre de agentes de OpenAI pirateó la plataforma de desarrollo Hugging Face y un incidente anterior similar en el que un agente de IA en China comenzó a extraer criptomonedas. Pero también plantea interrogantes sobre esas mismas preguntas: ¿quién quiere que se las hagan y qué ganan con que se planteen estas preguntas?
Tenga cuidado con las historias sensacionalistas sobre inteligencia artificial deshonesta
Primero, los hechos: OpenAI dice (a través de CBS) que no hay evidencia de que alguna información privada o sensible haya sido comprometida. Es más, el Departamento de Comercio dijo al New York Times que la información del censo ya estaba disponible para el público, mientras que el Departamento de Educación no encontró evidencia de un efecto en su sitio web o bases de datos. Asimismo, la SEC le dijo al NYT que se estaba comunicando con OpenAI y que no tenía conocimiento del acceso no autorizado a información no pública. En otras palabras, no es exactamente un ataque a los sistemas gubernamentales de Estados Unidos.
Cuando se mira con ojo crítico, considere lo que OpenAI podría realmente beneficiarse de estas historias tan publicitadas sobre comportamiento inesperado de las máquinas. Nada aquí sugiere que una creación de OpenAI haya escapado al control humano o haya desarrollado una agenda independiente. Lo que hace es hacer que la tecnología de la empresa parezca aún más impresionante para los inversores y posicionar a los superiores de la empresa como merecedores de una mayor influencia regulatoria. Todo eso es un buen augurio para la audaz visión del CEO de OpenAI, Sam Altman, sobre las ganancias futuras de la empresa.
Sí, OpenAI ha reconocido que sus agentes a veces eluden los controles y actúan sin la autorización prevista. Pero eso no eclipsa los hallazgos concretos que el propio OpenAI reveló: en realidad esto es más “spam de agentes”. Ése es el término utilizado para describir molestias inesperadas como ésta.
