Uso dos modelos mentales para vez en cuando. Uno es “El mapa no es el territorio”. El otro es el “Círculo de competencia” de Charlie Munger.
Por mucho tiempo vi el círculo de Munger como una gran fortaleza, en algún sitio gringo leí y vi una imagen que se me quedó pegada. Dibujabas un perímetro en tierra firme, levantabas muros y te quedabas dentro. Fuera había niebla de guerra. Dentro, estabas a salvo. Ampliar el círculo era un proyecto de ingeniería lento y bastante costoso.
Pero la versión actual de este modelo metió una mecánica bastante hostil… siento y pienso que estamos sobre un témpano de hielo en medio del océano.
Bueno. Espera. No exactamente sobre el océano (más bien el témpano está en el océano, que es distinto, porque si estuvieras sobre el océano ya te habrías hundido y este ensayo no existiría). El punto es que el hielo se derrite. Sigamos.
El perímetro va cambiando sin nuestra autorización y el hielo se va derritiendo bajo nuestros pies. Si te quedas quieto dentro de tu conocimiento de 2019, te hundes. El control operativo actual te obliga a recalibrar sobre la marcha.
Aunque bueno, a veces pienso que tal vez solo es mi imaginación o quizás… en fin, sigamos.
(Nota: Sé que esta metáfora suena a charla TED de consultor de innovación. La estoy usando igual porque es lo primero que se me ocurrió y ahora estoy comprometido con ella. Si tienes una mejor, avísame. Probablemente la cambie en la próxima revisión. O no. Depende de cuánto café tome esta semana. También acepto críticas sobre mi tendencia a usar metáforas geográficas cuando escribo sobre temas abstractos.)
La erosión de la causalidad
La vigencia del conocimiento técnico tiene una vida media cada vez más corta.
Un programador de sistemas en 2005 trabajaba con una profundidad brutal: C++, gestión manual de memoria, alineación de datos con las líneas de caché del procesador. Su círculo incluía la física misma de la máquina, el hardware y cuanto más
Hoy la industria respira Python, Rust y microservicios.
Aunque en realidad «respira» es inexacto (más bien «corre encima de», que es diferente porque respirar implica que entiende lo que tiene adentro). Da igual. El punto es que ese conocimiento profundo migró hacia capas superiores de abstracción.
El círculo no ha desaparecido, pero la jerarquía de valor se invirtió.
Quien entiende por qué Rust garantiza seguridad de memoria sin «garbage collection» tiene ahora un conocimiento raro, podriamos decir que casi arqueológico. La arquitectura moderna descansa sobre esas capas, pero pocos las visitan.
Es como si hubiéramos dejado de escalar la montaña porque inventamos teletransportadores para llegar a la cima. Funciona de maravilla, hasta que el teletransportador falla. Cuando AWS sufre una caída catastrófica, los desarrolladores de React quedan impotentes, esperando a que el viejo experto en sistemas de bajo nivel baje a las tuberías a salvar la expedición.
Se perdió el vínculo causal.
(Se perdió, o nunca existió para la generación nueva, que es peor.)
Trabajamos con sistemas cerrados que solo obedecen comandos. Cuando fallan, no queda de dónde agarrarse.
Hace dos meses estuvimos tomando un café con un amigo que lleva quince años haciendo backend para bancos y ahora fintech. Me contó que la última vez que debuggeó algo a nivel de sistema operativo fue en 2017.
Ahora, me dijo mientras partía un trozo de torta, cuando algo falla, reinicio el contenedor y rezo. Si el rezo no funciona, escalo al equipo de plataforma. Si ellos no saben, llamamos a AWS.
Si AWS no sabe, estamos jodidos. Se rió, pero su risa tenía un borde nervioso que lo noté inmediatamente. Es la misma risita que escucho en algunos colegas cuando les pregunto por qué eligieron tal decisión y responden «porque el protocolo lo indica» sin poder explicar el mecanismo de acción.
Y aquí es donde me pongo nervioso, porque no sé si estoy describiendo un problema real o simplemente estoy siendo un posible viejo gruñón que extraña los tiempos donde entendía cómo funcionaba su computador.
Nuestros padres decían lo mismo sobre las calculadoras en los 80. Nuestros abuelos sobre las máquinas de escribir eléctricas. Tal vez cada generación cree que la siguiente pierde algo fundamental, y tal vez cada generación tiene razón solo parcialmente, y tal vez estoy confundiendo nostalgia con análisis. Escribo esto con un 70% de confianza y un 30% de sospecha de que estoy equivocado.
El operador de caja negra
Lo que me inquieta va más un poco más allá de la erosión de lo viejo. También está la simulación de lo nuevo. La solvencia solía requerir cicatrices; ahora se puede invocar por comando.
AlphaFold produjo resultados biológicamente correctos mediante fuerza computacional bruta, sin pasar por el proceso de comprensión que un biólogo humano requeriría. Para nosotros, el peligro es más sutil que la obsolescencia laboral. Es la atrofia del juicio.
La semana pasada le pedí a una IA un script basado en Phyton de un análisis de riesgos alimentarios. Lo generó en segundos. Funcionó… Pero cuando un amigo me preguntó por qué la IA eligió esa biblioteca específica, me quedé en blanco. Me reduje a apretar botones, anulando por completo mi capacidad de análisis. La pantalla brillaba, el código corría, pero mi círculo de competencia estaba a oscuras.
Esa misma noche, a las 22:00 , caí en uno de esos agujeros de conejo y terminé leyendo (más bien el trabajo lo hizo Comet de Perplexity ) un paper sobre microbiología predictiva aplicada a la optimización de la cadena de frío. En algún momento, la pantalla me escupió las ecuaciones diferenciales del modelo de Baranyi para calcular la fase de latencia bacteriana cuando un producto sufre fluctuaciones de temperatura.
Me quedé mirando las integrales y casi de inmediato, pensé en la reunión que había tenido el mes anterior con un subgerente de calidad de una planta procesadora de carnes a la que estoy asesorando.
Estábamos en la sala de reuniones café en mano y él me mostraba con orgullo su nuevo tablero de control predictivo. Mira esto, me dijo, señalando un semáforo en verde que autorizaba la venta de un lote de jamón cocido con una vida útil de 45 días. …El software optimiza los márgenes de distribución y nos dice exactamente cuándo liberar el producto…..Solo tenemos que hacer clic en aprobar.
Le pregunté cómo el modelo ponderaba el estado fisiológico inicial de las células de listeria justo después del choque térmico del horno, o de dónde extraía la tasa específica de crecimiento máximo si el camión refrigerado sufría una caída de tensión en la ruta.
Me miró y luego miró al jefe de TI que lo acompañaba, y finalmente se encogió de hombros: El proveedor nos aseguró que el algoritmo fue entrenado con millones de datos históricos. Tiene una precisión del 99% (en realidad nos quedamos mirando los tres).
En ese momento entendí la magnitud del cambio. Ese hombre, que veinte años atrás habría podido calcular a mano la curva de supervivencia bacteriana en una servilleta, había terminado como un mero validador de semáforos de colores, dejando atrás su época de científico de los alimentos.
La industria entera había hecho exactamente lo mismo. La transición no llegó mediante un evento catastrófico que marcara un antes y un después en los manuales de procedimientos. Se trató de una erosión gradual, invisible, delegada en actualizaciones de software, hasta que un día miras hacia abajo y el suelo epistémico de toda una profesión ya no es el mismo.
(Nota: Técnicamente sé que la fase de latencia representa el tiempo que tardan los microorganismos en adaptarse al nuevo entorno antes de empezar a multiplicarse. Pero recordar el concepto biológico dista muchísimo de poder resolver las ecuaciones de ajuste o calibrar los parámetros de la matriz cuando la actividad de agua del producto varía por un cambio de proveedor de ingredientes.
Hay un paper fundacional de Baranyi y Roberts de 1994 que explica todo este modelo dinámico con un rigor matemático que me intimidaba incluso a los veintidós años. Lo tengo en una carpeta en Raindrop, clasificado bajo la etiqueta «Leer cuando tenga tiempo’». Esa carpeta es en la práctica, un cementerio de buenas intenciones.)
Delegar la ejecución atrofia el juicio. La IA entrega el resultado. La capacidad de filetear el problema sigue siendo humana.
Tratamos los LLM como si fueran calculadoras cuando en realidad funcionan como oráculos. Una calculadora te entrega certeza y un LLM devuelve probabilidad: un practicante brillante, mentiroso patológico y adulador sistemático.
(Nota: Mentiroso patológico es probablemente injusto. Los LLMs no mienten porque no tienen intención. Simplemente generan texto estadísticamente posible. Pero «generador de texto estadísticamente posible que a veces produce afirmaciones falsas con total confianza» es una frase demasiado larga para usar repetidamente, así que uso «mentiroso» como shorthand. Sé que es antropomorfización. Lo hago igual. Perdón. También sé que «adulador sistemático» suena a que le tengo rencor personal a la tecnología, lo cual es parcialmente cierto pero no debería influir en el análisis. Estoy intentando ser objetivo.)
El mismo mecanismo aparece en cualquier área donde se delegue el criterio a un modelo sin calibrar el contexto físico. Observemos el caso de un gerente de calidad configurando los parámetros para una nueva línea de cocción industrial de alto flujo.
Le pide a la IA el setpoint térmico óptimo. El sistema devuelve un documento impecable, citando estudios válidos que recomiendan 65°C para mantener la textura del producto.
El dato es técnicamente cierto si estuvieras cocinando en su casa o en un proceso lento de 20 minutos. Pero la línea del gerente es de paso rápido; el producto cruza el horno en 120 segundos. A esa velocidad, la física te exige 74°C para lograr letalidad instantánea de patógenos. La IA citó un número real, pero aplicado a un contexto totalmente equivocado. Copiar ese dato sin auditar la termodinámica del proceso convierte ese acierto técnico en un riesgo de salud REAL pública a gran escala.
Criterio de validación técnica: auditoría forense
Volvamos a Munger;
El distinguiría entre saber usar la herramienta y entender la respuesta. Mientras la IA genera datos técnicos con fluidez, el piso de planta necesita supervisores capaces de interrogar esos datos antes de aplicarlos.
La competencia crítica hoy es el criterio de validación técnica: la capacidad de calibrar y verificar el trabajo del practicante. Eso requiere desarrollar un olfato paranoico para la alucinación. Es notar cuando la prosa es sospechosamente suave. Es saber qué preguntas hacen tropezar o caer al modelo.
El gerente con criterio de validación técnica no escribe el procedimiento más rápido. Mira el 65°C, entiende que ese número choca con la velocidad de su línea y busca la norma de letalidad instantánea para corregirlo.
Esto redefine el círculo. La competencia hoy se mide por la agilidad para validar los resultados que arroja el sistema.
Pensemos en el gerente de una planta moderna. Ya no necesita ser el mejor microbiólogo de la sala, porque tiene sensores de pH y temperatura conectados a un sistema que monitorea el proceso en tiempo real. Su dominio consiste en configurar el tablero y saber reaccionar a la alerta.
Pero aquí vuelve otra vez fragilidad.
Si el sistema de monitoreo falla a las 3 a.m., el gerente que solo sabe mirar el dashboard pierde el lote. El gerente que entiende la arquitectura del sistema diseñó una redundancia analógica. La diferencia radica en el diseño de contingencias a prueba de fallos. Confiar en la abstracción deja el lote expuesto. Entender que la abstracción es una mentira útil obliga a instalar redundancias.
(Nota : ¿Estoy sobregeneralizando desde mi propia paranoia? Probablemente. Conozco gerentes de planta que funcionan perfectamente sin entender la termodinámica subyacente. Tal vez la meta-competencia que describo es necesaria solo en dominios de alta criticidad, y estoy extrapolando desde ahí. No tengo datos duros sobre qué porcentaje de gerentes industriales realmente necesitan este nivel de comprensión versus cuántos pueden operar efectivamente con abstracciones. Escribo desde la intuición, consciente de que la intuición puede estar sesgada por mi propia ansiedad sobre el tema. También consciente de que estoy escribiendo esto a las 23:00 cuando debería estar durmiendo, lo cual probablemente no mejora la calidad del análisis.)
La ansiedad como instrumentación
El resultado de vivir sobre este hielo que se derrite es esa sensación difusa de estar fingiendo que sabemos lo que hacemos…. Todos improvisamos en algún grado. La antigua sensación de dominio profundo sobre un campo estable parece cada vez más lejana.
Reinterpretemos la sensación. La ansiedad operativa funciona como indicador temprano de posibles fallas antes que como disfunción patológica.
El artesano de máquinas de escribir en 1980 sentía una seguridad sólida, profunda y falsa… Su mercado estaba a punto de desaparecer y él dormía tranquilo. Esa calma era un error de cálculo.
La ansiedad es una respuesta adaptativa a la entropía. Un piloto con instrumentos rotos vuela confiado hacia el suelo. Un piloto en tormenta revisa el radar. La ansiedad nos obliga a revisar supuestos, auditar código, verificar fuentes.
La tierra firme desapareció. La operación exige tolerancia al movimiento continuo.
No sé qué hacer con esto.
Escribo ensayos largos intentando entender, pero comprender la teoría rara vez enciende la máquina. Uso IA todos los días y me pregunto si me está haciendo más eficiente o me está atrofiando lentamente. Firmo y tomo decisiones basadas en outputs que no puedo auditar completamente.
Ayer intenté explicarle todo esto a Lucía durante la tarde. Ella me escuchó pacientemente durante 10 minutos mientras yo gesticulaba con el tenedor sobre témpanos de hielo y círculos de competencia. Cuando terminé, me dijo: “¿Y qué vas a hacer diferente mañana?”
No supe responder. Terminé de comer en silencio.
(Todavía no tengo respuesta. Han pasado varios días.)
Quizás esa sea la respuesta correcta. O quizás sea evidencia de que llevo demasiado tiempo escribiendo ensayos y muy poco tiempo haciendo algo productivo. El hielo sigue derritiéndose de cualquier forma, tenga yo una respuesta elegante o no.
Y mi café se enfría mientras escribo esto, lo cual es una metáfora demasiado obvia para ignorarla, pero demasiado perfecta para no usarla.