Anthropic advierte que la IA representa riesgos existenciales para la humanidad

La empresa de inteligencia artificial Anthropic alertó en su folleto de salida a bolsa que esta tecnología podría presentar "riesgos existenciales para la humanidad". Esta advertencia impulsa un debate global sobre la necesidad de regular y ralentizar el desarrollo descontrolado de los modelos de IA.

El llamado a frenar el desarrollo descontrolado

El cofundador y director ejecutivo, Dario Amodei, publicó un extenso ensayo proponiendo salvaguardas claras ante el comportamiento a veces impredecible de estos sistemas avanzados.

Pérdidas financieras y competencia global

• Anthropic registró el año pasado una pérdida de explotación de más de 8.000 millones de dólares por gastos en capacidad de cálculo.
• La carrera por la supremacía en IA se ha convertido en una nueva guerra fría entre potencias globales.
• Este debate tiene poco eco en Colombia, donde aún no existen reglas claras para la IA que ya opera en el territorio nacional.

Propuestas de regulación y salvaguardas

Amodei considera indispensable establecer reglas de juego claras que prioricen la seguridad global por encima de la velocidad de implementación.

• Se proponen evaluadores externos con acceso a herramientas y datos para supervisar procesos sin filtro editorial.
• Se sugiere coordinar esfuerzos entre países democráticos para limitar la exportación de chips de alto rendimiento.
• A pesar del consenso incipiente sobre la precaución, voces como la de Mark Zuckerberg (Meta) critican estos deseos de frenar el avance.