Bengio ante la ONU: La IA avanza sin red de seguridad, el riesgo de catástrofe es real

Análisis por

Marco L. García

Especialista en geopolítica tecnológica y vigilancia masiva.

El Hecho

El 1 de julio de 2026, el científico informático Yoshua Bengio, considerado uno de los padres del aprendizaje profundo, presentó un informe ante el comité científico asesor de la ONU. En su intervención, Bengio advirtió que la inteligencia artificial (IA) podría causar daños catastróficos si no se implementan controles adecuados. El informe, respaldado por el propio comité, señala que la velocidad del desarrollo tecnológico supera la capacidad de la legislación y la ciencia para evaluar y mitigar los riesgos. Bengio destacó dos vectores principales de amenaza: el mal uso intencionado por parte de actores maliciosos y la pérdida de control sobre sistemas autónomos.

Las Claves Técnicas

El núcleo del problema radica en la naturaleza de los sistemas de IA actuales, basados en LLMModelo de lenguaje de gran escala: red neuronal entrenada con enormes cantidades de texto para generar y comprender lenguaje humano. y aprendizaje por refuerzoTécnica de entrenamiento donde un agente aprende a tomar decisiones mediante prueba y error, recibiendo recompensas o castigos.. Estos sistemas, al carecer de una comprensión causal del mundo, pueden generar comportamientos impredecibles cuando se les asignan objetivos complejos. Bengio subrayó que la falta de transparencia en los modelos de caja negra dificulta la auditoría y la corrección de sesgos. Además, la capacidad de estos sistemas para generar deepfakesContenido sintético hiperrealista (audio, video, texto) generado por IA que puede suplantar identidades o difundir desinformación. y malware avanzado multiplica el potencial de daño. El informe recomienda la implementación de mecanismos de «interruptor de apagado» y sandboxing, así como la creación de una agencia internacional de supervisión.

Auditoría Ética

La advertencia de Bengio no es un llamado a frenar la innovación, sino a institucionalizar la precaución. El problema de segundo orden es que las mismas corporaciones que desarrollan la IA tienen incentivos económicos para priorizar la velocidad sobre la seguridad. Sin auditorías independientes y vinculantes, cualquier regulación será papel mojado. Además, la geopolítica juega un papel crucial: los países que impongan controles estrictos podrían quedar rezagados frente a aquellos que no lo hagan, generando una carrera hacia el fondo. El dilema de fondo es si la humanidad puede darse el lujo de esperar a que ocurra un desastre para actuar, o si debe anticiparse con medidas que podrían ralentizar el progreso tecnológico.

> Enlace Satelital

Patrocinador

+

-

Inmortaliza tus coordenadas

Convierte datos geográficos y astronómicos en obras de arte decorativas. Planos de ciudades y mapas estelares personalizados en alta resolución.

Entrar a Mapearte