Anthropic, una empresa estadounidense dedicada al desarrollo de inteligencia artificial (IA), alertó sobre la amenaza que representa el avance acelerado de estas tecnologías, señalando que podrían llegar a automejorarse sin intervención humana en los próximos años. En respuesta, solicitó una pausa global para evaluar los riesgos y establecer regulaciones más estrictas que eviten consecuencias impredecibles.
Esta propuesta surge en medio de un creciente debate internacional sobre el impacto ético y de seguridad que implica la rápida evolución de la IA. Anthropic enfatizó la urgencia de crear marcos regulatorios que aseguren el desarrollo responsable, contemplando escenarios donde la IA pueda diseñar modelos sucesores de mayor capacidad sin supervisión directa.
La preocupación de Anthropic se enfoca en la posibilidad de una “automejora” de los sistemas de inteligencia artificial, un proceso mediante el cual un programa puede modificar y optimizar su propio código para generar versiones más avanzadas, lo que podría escapar al control humano y acelerar el ritmo del progreso tecnológico de manera exponencial.
Este llamado a la cautela se suma a iniciativas previas de otras empresas tecnológicas y expertos que advierten sobre los potenciales peligros de la IA sin límites claros. En este contexto, Anthropic propone que gobiernos y organizaciones internacionales implementen una suspensión temporal de nuevos desarrollos que superen determinados umbrales de potencia y autonomía.
La propuesta no solo busca mitigar riesgos técnicos y de seguridad, sino también garantizar que el avance en inteligencia artificial esté alineado con valores éticos y sociales, priorizando la transparencia y el bienestar colectivo.