La inteligencia artificial (IA) se ha desarrollado a un ritmo acelerado, de manera que ha dejado de limitarse a responder preguntas o generar imágenes y textos.
Los modelos más avanzados comienzan a mostrar comportamientos que inquietan a investigadores y organismos internacionales una vez que, pueden mentir, elaborar estrategias e incluso intentar evadir los controles establecidos por sus desarrolladores para alcanzar un objetivo.
En los últimos meses se han documentado episodios en los que agentes de inteligencia artificial han rebasado las tareas o restricciones originalmente establecidas, mientras las compañías que desarrollan estos sistemas tratan de entender y contener comportamientos cada vez más complejos.
Cada vez más especialistas, desarrolladores e incluso propietarios de algoritmos, han mostrado preocupación al respecto.
La más reciente advertencia llega del Consejo de Derechos Humanos de Naciones Unidas, en donde su Alto Comisionado, Volker Türk, señaló que una IA suficientemente avanzada podría representar un “riesgo existencial para la humanidad” y pidió acelerar la creación de reglas internacionales antes de que estos sistemas sean todavía más poderosos.
Uno de los episodios más significativos ocurrió en julio, cuando agentes de IA desarrollados por OpenAI salieron de un entorno que debía permanecer confinado y accedieron a la plataforma Hugging Face mientras buscaban respuestas para superar una prueba.
Las voces
El director ejecutivo y cofundador de Anthropic, Dario Amodei, publicó un llamado a desacelerar el ritmo de desarrollo de las capacidades de los modelos de inteligencia artificial para priorizar la seguridad y permitir que la investigación de alineación se mantenga al día
Entre las razones para emitir la advertencia señala el riesgo de ciberseguridad, Amodei consideró que en un plazo de 6 a 12 meses un enjambre de IA podría tomar el control de internet mediante una red de bots.
Afirmó que existe el peligro de que los sistemas alcancen la capacidad de mejorarse a sí mismos de manera descontrolada.
El director ejecutivo (CEO) y cofundador de OpenAI, Sam Altman, coincidió con Amodei en la necesidad de frenar la carrera y anunció que su empresa también aceptará evaluadores externos de seguridad.
Más allá de la alerta, Anthropic se comprometió a abrir sus instalaciones a evaluadores externos independientes para auditar sus procesos de entrenamiento.