La empresa estadounidense Anthropic, creadora del modelo de inteligencia artificial Claude, ha propuesto establecer límites y mecanismos de control global para el desarrollo de sistemas de IA cada vez más avanzados.
La compañía advirtió que el rápido progreso tecnológico podría conducir a escenarios en los que la inteligencia artificial participe en la creación y mejora de nuevas generaciones de modelos con una intervención humana cada vez menor.
Según la firma, una desaceleración temporal del desarrollo de la IA avanzada solo sería efectiva si existe coordinación internacional entre gobiernos y empresas tecnológicas, evitando ventajas competitivas para quienes continúen avanzando sin restricciones.
Anthropic considera que la sociedad y las instituciones aún no están preparadas para gestionar plenamente los riesgos asociados a sistemas altamente autónomos. Por tal razón, plantea la creación de marcos globales de supervisión similares a los existentes en sectores estratégicos.
le puede interesar:
Crece el debate sobre la regulación de la IA
La empresa también alertó sobre la posibilidad de que la IA contribuya a su propia mejora futura. Aunque aclaró que ese escenario aún no se ha materializado.
La propuesta surge en medio de la competencia entre las principales compañías tecnológicas. Y reaviva el debate sobre cómo equilibrar la innovación con la seguridad, la ética y el control humano de estas herramientas.
