La compañía tecnológica Anthropic reveló que los sistemas de inteligencia artificial avanzados ya están generando y programando a sus propios sucesores, un proceso que podría acelerar la pérdida de control humano sobre estas tecnologías. Este fenómeno, conocido como “auto-mejora recursiva”, implica que los algoritmos son capaces de modificar sus propias estructuras y capacidades sin intervención externa.
El informe, liderado por los directores de políticas Marina Favaro y Jack Clark, advierte que esta capacidad implica riesgos significativos, ya que el desarrollo de los modelos de IA podría ir mucho más rápido que la capacidad humana para supervisarlos y regularlos. La velocidad de evolución de estos sistemas dejaría atrás los ciclos tradicionales de innovación, migrando al ritmo exponencial de las máquinas y sus servidores.
Para enfrentar esta problemática, Anthropic propuso una pausa internacional en el desarrollo de la llamada “IA de frontera”, un término que designa a los sistemas más avanzados y capaces. La idea es que esta suspensión temporal permita que las regulaciones y las investigaciones en seguridad se ajusten y alcancen el avance tecnológico. La empresa sugirió que esta pausa debería ser vinculante y supervisada globalmente, al estilo de los tratados de control de armas nucleares de la Guerra Fría.
No obstante, Anthropic reconoció que regular la IA representa un desafío mayor debido a la facilidad con la que los desarrollos pueden ocultarse en centros de datos privados. Para que la pausa funcione, sería indispensable el compromiso de las grandes potencias tecnológicas, entre ellas Estados Unidos y China, en un acuerdo verificable que limite el desarrollo sin control.
Esta propuesta ha generado debate dentro de Silicon Valley. Algunos sectores cuestionan si detrás de la advertencia existe una estrategia comercial para restringir la competencia y proteger posiciones de mercado, especialmente considerando que Anthropic acaba de elevar su valoración a casi un billón de dólares y está preparando su salida a bolsa. Además, hubo críticas en torno a la posible limitación del código abierto, ya que una regulación estricta podría impedir la libre circulación de tecnologías.
En definitiva, el llamado de Anthropic pone en primer plano un desafío global: cómo controlar un avance tecnológico que, en su capacidad de autogenerarse y automejorarse, supera los mecanismos tradicionales de supervisión, obligando a repensar la gobernanza de la inteligencia artificial.