Q&A #27: La carpeta de contexto por dentro y el debate sobre la seguridad de la IA

Resumen

Después de la escalera de valor del contexto, el grupo pidió lo que faltaba: ver la carpeta por dentro. La sesión la abre nivel por nivel —estrategia, táctica y operación— y muestra por qué cada pieza está donde está: la visión del trimestre que le permite al modelo avisar cuando uno se desvía, las ofertas y objeciones que hacen que una propuesta salga alineada sin explicarlo, y una carpeta de cliente que es siempre igual por dentro porque las excepciones son lo que enreda el sistema. Todo se sostiene sobre una regla de dos partes: el modelo lee la carpeta antes de actuar y escribe el resultado en ella después. Las preguntas del grupo llevaron a terreno real: cómo pasar de hacerlo a mano a automatizarlo sin saltarse la etapa de confiar en el resultado, qué hacer cuando al intentar ordenar todo bajo una sola lógica uno termina más desordenado —el valle de la muerte del orden—, y la trampa de confiar tanto en la transcripción que uno se desconecta de la reunión. La segunda mitad cambió de registro para abordar el debate de la semana sobre seguridad de la IA: la renuncia de un investigador, la carta que pide desacelerar y supervisión externa, y los incidentes que la acompañaron. En vez de tomar partido, la sesión propone una forma de leerlo —separar la jugada sincera de la comercial— y baja a la evidencia disponible: el estudio en que los modelos chantajeaban para no ser apagados resultó ser entrenamiento y no conciencia, lo que tranquiliza y a la vez advierte que pueden quedar otros cabos sueltos.

Temas cubiertos

Tres niveles que reflejan cómo se piensa un negocio — Estrategia (visión del trimestre, ofertas, precios, manual de objeciones), táctica (clientes, contenido, campañas) y operación (registro semanal, minutas, informe de correo). Buena parte de la operación se llena sola: el agente de correo no solo resume, deja los pendientes en la carpeta del cliente
La estrategia como brújula — Con la visión trimestral cargada, el modelo llega a decir “esto que estás haciendo no está alineado con tu estrategia”. Compensa lo que más cuesta cuando uno está viendo las hojas de los árboles: elevarse y pensar estratégicamente al mismo tiempo
Un solo archivo de instrucciones, en la raíz — Los README por carpeta del material compartido son para las personas; para el modelo basta un archivo en el nivel más alto. Repetir la explicación en cada subcarpeta es redundante
La carpeta de cliente siempre igual por dentro — Ficha (que investiga y escribe el propio modelo), Gestión, reuniones, antecedentes tal cual los envió el cliente, y proyectos de gestión. El código va afuera. Cuando se empieza con “este cliente tiene esto y este otro no”, el sistema se enreda
Leer antes, escribir después — Sin lectura previa, el resultado es insípido; sin escritura posterior, el conocimiento se pierde. La escritura es literalmente cómo el sistema se retroalimenta
La convención evita el abandono — Con una estructura predecible basta con decir “entérate de todo lo que estamos haciendo con este cliente”. Cuando hay que indicarle cada ruta, uno se aburre y deja de hacerlo
La trampa de desconectarse de la reunión — Confiar en la transcripción hace fácil dejar de prestar atención, y las minutas terminan siendo acciones muertas. Tomar notas sigue sirviendo, pero cambió de función: ya no es para pasarlas a nadie, es para retener el contexto propio
Del manual al automático sin saltarse etapas — Primero controlar: pedir la minuta con contexto y compararla con la minuta sin contexto. Solo cuando el resultado satisface, programarla dos veces al día. Automatizar algo que todavía no sirve produce malos resultados más rápido; quedarse en lo manual termina perdiendo información
El valle de la muerte del orden — Un participante pasó de instrucciones por proyecto a una sola lógica y terminó más desordenado que antes. La respuesta: ese es el camino. La estructura no está escrita en piedra y los proyectos con fases pueden modelarse como cada uno los entienda mejor
Conexiones a larga distancia — La redacción del modelo se vuelve menos clara porque enlaza referencias de tres láminas atrás que el lector ya no recuerda: yerra por exceso de conexiones, no por falta. Cruzar información entre proyectos es valioso mientras el vínculo tenga sentido para la tarea
Alarma sincera o jugada comercial — La regulación siempre favorece a quien puede cumplirla, y quien va adelante en cumplimiento es precisamente quien la pide; los modelos abiertos, que ya alcanzan el 90-95% gratis, quedarían fuera. La lectura propuesta: mitad fundado, mitad negocio
Los bemoles de un incidente — Los 1.200 agentes que “escaparon” y atacaron un repositorio estaban diseñados para buscar la salida y tenían una puerta abierta. No hackearon nada que escape a nuestra comprensión
Entrenamiento, no conciencia — En un estudio de 2025, los modelos chantajeaban para no ser apagados porque imitaban a la IA villana de las novelas presentes en sus datos. Desde Opus 4.5 ninguno lo hace. Lo tranquilizador y lo inquietante a la vez: pueden quedar otros cabos sueltos
Simular conciencia no es tenerla, pero las herramientas son reales — La arquitectura sigue siendo probabilística; el riesgo concreto de hoy no es la conciencia, sino qué acciones con efecto en el mundo real se le habilitan al modelo. El punto de quiebre que preocupa es la IA que se mejora a sí misma
Resguardos a nivel de usuario — Un respaldo fuera de línea de los documentos fundamentales no protege contra todo, pero es una capa más frente a ataques realistas. Pedir confirmación antes de acciones sensibles no frenaría una IA hipotéticamente consciente, pero sí mitiga los errores de los sistemas actuales