La inteligencia artificial continúa aumentando sus capacidades y algunos sistemas ya participan de manera significativa en el desarrollo de nuevas herramientas, una evolución que ha generado preocupación entre especialistas y empresas del sector.
Anthropic, compañía desarrolladora del chatbot Claude, advirtió sobre la posibilidad de que los modelos de IA lleguen a participar cada vez más en la creación y perfeccionamiento de sus propias generaciones futuras.
Según la empresa, Claude ya interviene en alrededor del 26 % de las tareas de investigación y desarrollo de Anthropic y colabora con trabajadores humanos en más del 90 % de las actividades de esa área.
La compañía explicó que decidió divulgar estas cifras para mostrar el ritmo con el que avanza el desarrollo de esta tecnología, especialmente ante el debate internacional sobre la necesidad de establecer límites o reducir la velocidad de su expansión.
El director ejecutivo de Anthropic, Dario Amodei, también ha planteado la conveniencia de moderar el ritmo de desarrollo de la IA, en medio de preocupaciones relacionadas con el impacto laboral, el elevado consumo energético y las consecuencias ambientales asociadas con los centros de datos.
Uno de los principales puntos de atención es la denominada auto-mejora recursiva, concepto que describe un escenario en el que un sistema podría desarrollar de manera autónoma una nueva versión de sí mismo. Anthropic señaló que un avance de este tipo podría dificultar la supervisión y el control humano sobre estos modelos.
La empresa indicó que actualmente cuenta con unos 30.000 agentes de inteligencia artificial utilizados en labores de investigación e ingeniería. Estos sistemas pueden ejecutar determinadas tareas de manera autónoma, aunque Claude todavía requiere supervisión humana y no puede funcionar de forma completamente independiente.
El debate sobre los límites y riesgos de los agentes de IA se ha intensificado a medida que los modelos adquieren mayores capacidades para ejecutar tareas, interactuar con herramientas digitales y desarrollar soluciones con menor intervención humana.