IA sin control: burbuja, data centers y agentes autónomos

Pip: EDUCATRÓNICA, donde la pregunta de la semana es si la IA va a cambiar el mundo o simplemente va a cobrarnos más por intentarlo.

Mara: Francis Zorrilla lleva varios días publicando sobre eso exactamente: los riesgos de gobernanza que rodean a los agentes autónomos, la infraestructura física que sostiene todo este gasto, y los productos concretos que ya están llegando a los usuarios.

Pip: De la burbuja al data center en tienda de campaña, pasando por robots que lavan platos en sets de filmación.

Mara: Empecemos por donde más duele: la gobernanza y los riesgos reales de la IA.

Burbuja, gobernanza y los riesgos reales de la IA

Mara: El territorio de este segmento es la distancia entre lo que la IA promete y lo que las organizaciones son capaces de controlar, desde las valoraciones astronómicas hasta los agentes que fallan en producción.

Pip: Y sobre esa distancia, el post sobre el boom económico lo formula con precisión: «La IA no es solo una herramienta; es una capa de infraestructura que redefinirá la eficiencia operativa en cada industria, desde la medicina hasta la logística. Sin embargo, la transición de la promesa a la utilidad requiere una madurez regulatoria y económica que aún estamos construyendo.»

Mara: Lo que eso significa en la práctica es que el dinero se está gastando antes de que existan los marcos para aprovecharlo bien. La inversión en chips, centros de datos y OPIs como las de Anthropic y OpenAI está impulsada por el potencial, no por la rentabilidad demostrada.

Pip: Y mientras tanto, dentro de las empresas que ya despliegan IA, el problema no es la ambición sino el control. Un estudio de IBM citado en el post sobre liderazgo cifra la crisis: dos tercios de los CIOs y CTOs son responsables directos de sistemas de IA que no supervisan completamente.

Mara: El mismo post señala que el setenta por ciento de los ejecutivos reporta que la tecnología se despliega a una velocidad que supera la capacidad de seguimiento de sus propios equipos de TI.

Pip: Velocidad que supera el seguimiento. Eso no es innovación, es deuda con patas.

Mara: La respuesta de Microsoft al problema de control es ASSERT, su marco de evaluación ahora de código abierto. El post que lo analiza explica que los agentes fallan de maneras difíciles de ver: «Se desvían de las políticas, producen salidas inseguras en casos límite y se comportan de manera diferente en producción que en pruebas.»

Mara: Lo que ASSERT intenta resolver es convertir documentos de gobernanza escritos en lenguaje natural en pruebas ejecutables, de modo que el cumplimiento normativo sea verificable y no solo declarado.

Pip: El problema, como señala el análisis, es que ASSERT solo es tan bueno como el documento de requisitos que recibe. Políticas vagas producen casos de prueba vagos, y eso genera una falsa sensación de seguridad.

Mara: El post sobre código generado por IA añade otra capa al mismo problema. Según un informe de Checkmarx, las grandes corporaciones saben que ese código tiene vulnerabilidades de seguridad y lo despliegan de todas formas, presionadas por el tiempo de salida al mercado.

Pip: Y el post sobre los límites de la IA cierra el círculo advirtiendo que la dependencia de un único proveedor de cómputo es ya un punto único de fallo que la mayoría de empresas no ha identificado todavía.

Mara: Los agentes autónomos agravan todo esto. El post que analiza los siete nuevos modos de falla identificados por Microsoft recuerda que cuando un agente puede interactuar con el mundo digital de forma independiente, los errores dejan de ser lingüísticos y se convierten en fallos sistémicos con impacto real.

Pip: La infraestructura que sostiene todo ese riesgo tiene su propia historia, y es bastante literal.

La infraestructura que lo sostiene todo

Mara: El post sobre Meta lo ilustra de forma contundente: la empresa está construyendo estructuras portátiles de ciento veinticinco mil pies cuadrados alimentadas por generadores de doscientos megavatios porque la construcción civil tradicional no puede seguir el ritmo de la demanda de chips.

Pip: Una tienda de campaña de doscientos megavatios es básicamente el diagnóstico físico del hype.

Mara: Arista Networks responde al mismo problema desde la red: su nueva familia de switches de 1.6T está diseñada específicamente para los patrones de tráfico denso que generan los clústeres de IA, donde la latencia predecible importa tanto como el ancho de banda bruto. La colaboración IBM y ServiceNow aborda el otro extremo: cómo conectar esa nueva infraestructura con los sistemas legados que siguen siendo el núcleo operativo de muchas empresas. Y el post sobre estándares abiertos argumenta que sin protocolos compartidos, escalar la IA más allá de un piloto exitoso es casi imposible.

Pip: De la infraestructura física a lo que el usuario final ya tiene en la pantalla.

Lo que llega al usuario: memoria, modelos y robots

Pip: La promesa de producto más concreta de la semana es la función de memoria activa de ChatGPT, llamada dreaming, que según el post «cura automáticamente recuerdos en segundo plano haciendo referencia a todo tu historial de chat.»

Mara: Lo que eso significa en la práctica es que el modelo construye un perfil contextual del usuario sin que este tenga que reexplicar sus proyectos o preferencias en cada sesión. El análisis advierte, sin embargo, que los modelos pueden sobregeneralizar o alucinar recuerdos, así que la verificación humana sigue siendo necesaria.

Mara: En el frente de la competencia entre asistentes, el post que compara Copilot y Gemini concluye que Copilot sobresale en integración con el ecosistema de Microsoft 365, pero Gemini demuestra mayor profundidad lógica en problemas de múltiples variables. Apple, por su parte, apostó en la WWDC por una IA integrada en el sistema operativo con procesamiento local, priorizando la privacidad sobre la potencia bruta. Y en robótica, el análisis de los robots humanoides de un socio de Google DeepMind recomienda escepticismo: la brecha entre el vídeo en un set controlado y la utilidad real en un entorno doméstico sigue siendo enorme.

---

Pip: Entonces: el dinero es real, los riesgos son reales, y las tiendas de campaña también son reales.

Mara: Lo que une todo es la misma tensión: la velocidad de despliegue supera sistemáticamente la capacidad de gobernar lo que se despliega.

Pip: La próxima semana, a ver si alguien ha escrito el documento de requisitos correcto.

Mara: O al menos uno que ASSERT pueda leer sin alucinar.