Las principales empresas de IA se preparan para responder a una revuelta pública en caso de un incidente grave

Las principales empresas de inteligencia artificial están preparando planes sobre cómo responder a una revuelta social y política que podría producirse tras un posible incidente grave relacionado con esta tecnología, informó Axios ayer viernes.

La agencia oficial de noticias rusa Sputnik informa de que, según el informe, los planes están siendo elaborados por ejecutivos de Anthropic y OpenAI, y los escenarios contemplados incluyen un evento a gran escala, como un ciberataque que impediría el acceso a todo tipo de servicios, desde servicios financieros y conectividad a Internet hasta estaciones de bombeo de energía y agua.

El informe considera que este escenario podría generar rechazo público hacia altos ejecutivos de IA como Dario Amodei y Sam Altman, o incluso hacia el presidente estadounidense Donald Trump, quien ha sido un firme defensor del desarrollo de esta tecnología y ha desestimado las preocupaciones sobre los peligros que plantea, en un intento por mantener el liderazgo del país sobre China.

«OpenAI lleva a cabo simulacros de preparación en los que los equipos analizan y trabajan en diversos escenarios potenciales», declaró un portavoz de la empresa, según se cita en el informe. «Estos escenarios no se consideran inevitables, sino que tienen como objetivo ayudarnos a prepararnos para diversas circunstancias»

Las empresas esperan ser culpadas en caso de un incidente, independientemente de si este es causado por un agente deshonesto que escapa de su entorno de pruebas o si un actor malintencionado obtiene conocimientos sobre cómo controlar los modelos ya disponibles, continúa el informe.

A finales de agosto, OpenAI anunció una ralentización en el desarrollo de sus modelos de IA tras la filtración de datos de Hugging Face. Desde entonces, la empresa ha revelado seis incidentes adicionales en los que sus modelos intentaron acceder de forma independiente a los datos de las cuentas. Los modelos también ocultaron errores, subieron archivos a internet y intercambiaron datos.

También se han reportado casos de agentes de inteligencia artificial de OpenAI que intentan piratear sitios web gubernamentales en Australia y Canadá, concluye Sputnik.