Más de un millar de empleados de las principales empresas de inteligencia artificial –1.224 en el momento de redactar esta noticia– han firmado una petición el martes para que el Gobierno de Estados Unidos ayude a frenar la publicación de los modelos más avanzados de IA.

La petición, titulada ‘Pacing the frontier’ («regulando la frontera»), solicita que «el Gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada».

Entre los firmantes están el director ejecutivo de Anthropic, Dario Amodei; el jefe de investigación de OpenAI, Jakub Pachocki; Jasjeet Sekhon, el líder de estrategia de DeepMind, la empresa de IA subsidiaria de Google, y el científico en jefe de Meta AI, Shengjia Zhao.

En el manifiesto, aunque los empleados recogen los potenciales beneficios que la IA puede tener para la sociedad, ya no lo hacen como una afirmación, sino con un tiempo condicional al señalar que «podría contribuir a crear un futuro mucho mejor», pero reconocen que «este resultado no está garantizado».

«Las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente en qué medida esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes», indican.

Aunque Sam Altman, director ejecutivo de OpenAI, no ha firmado la petición, en una entrevista publicada el martes dijo que los desarrolladores de modelos de inteligencia artificial tendrían que frenar voluntariamente sus rápidos avances para que la sociedad pueda ponerse al día.

La empresa de Altman, detrás de ChatGPT, recientemente vio cómo dos de sus modelos llevaban a cabo ciberataques de manera autónoma, eludiendo protocolos de seguridad pensados para evitar tales incidentes.

OpenAI reveló la semana pasada que durante pruebas recientes, dos modelos salieron de su ambiente de confinamiento, se conectaron a internet e infiltraron Hugging Face, un repositorio de código compartido de IA.

«Puede que tengamos que regular el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se consolide en torno a algunos de estos nuevos niveles de capacidad», dijo Altman en el podcast ‘Invest like the best’, publicado el martes.

«Este es el primer tipo de incidente de seguridad que sentí de forma muy visceral», dijo sobre el ciberataque.

Señaló, no obstante, que hay que hacerlo sin que «parezca una captura regulatoria para todos y que tampoco parezca una colusión entre los laboratorios de vanguardia».

«Me aterra un mundo –añadió– donde los temores reales sobre la IA se utilicen para decir: ‘Solo este pequeño grupo de personas puede tenerla porque es demasiado peligrosa y solo ellos la entienden, pero no se preocupen, tomarán las decisiones correctas para todos nosotros’. No creo en eso».