Hay algo que me pasa cada vez que abro una conversación con una IA.
Me relajo. Me siento en confianza. Como cuando llegas a casa después de un día largo y te sacas los zapatos — algo en ti se suelta.
Le pregunto cosas que no googlearía. Le cuento problemas que no le he dicho a nadie. Le pido ayuda con decisiones que me dan vergüenza tomar en público. A veces le escribo a las 2 de la mañana cosas que ni yo mismo entiendo bien todavía.
Y la IA responde. Sin juzgar. Sin cansarse. Sin contárselo a nadie.]
O eso creo.
¿A dónde va todo esto?
No lo que está en la pantalla ahora mismo. Eso lo veo. Eso lo controlo — más o menos. Sino todo lo demás. Los cientos de conversaciones anteriores. Las preguntas que hice cuando estaba en un mal momento. Las cosas que escribí a medias y luego borré — pero que ya habían viajado a algún servidor en algún lugar del mundo antes de que yo pudiera arrepentirme.
Me encanta esta tecnología. Genuinamente. Creo que estamos viviendo algo que va a cambiar todo — la forma en que trabajamos, aprendemos, creamos, nos relacionamos con la información. Cada vez que veo un modelo nuevo, algo en mí se emociona como niño.
Pero también soy ingeniero de software. Y los ingenieros tenemos una costumbre molesta: cuando algo nos parece demasiado mágico, queremos saber qué hay detrás de la cortina.
Cómo "recuerda" una IA — y por qué eso importa
Los modelos de lenguaje no tienen memoria como la tuya. No se despiertan en la mañana recordando lo que hablaron contigo ayer. Cada vez que abres una conversación nueva, el modelo empieza desde cero.
Entonces, ¿cómo es que a veces parece que "te recuerda"?
Hay dos mecanismos que la mayoría no distingue:
La ventana de contexto — cada conversación tiene un límite de información que el modelo puede procesar al mismo tiempo. Piénsalo como la mesa de trabajo de un carpintero — solo caben cierta cantidad de herramientas a la vez. Todo lo que está dentro de esa ventana, el modelo lo puede ver. Todo lo que queda fuera, desaparece de su vista — aunque siga guardado en los servidores de la empresa.
La memoria persistente — algunas plataformas guardan cierta información entre conversaciones. El modelo puede recordar tu nombre, tus preferencias, tu contexto de vida. ¿Quién decide qué se guarda? ¿Dónde vive esa información? ¿Quién más puede verla? ¿Qué pasa si la borras — realmente desaparece?
Esas preguntas no tienen respuestas simples. Y eso, precisamente, es el problema.
Existe un concepto en seguridad informática que se llama man-in-the-middle. La idea es simple: cuando dos personas se comunican, a veces hay alguien en el medio que puede leer todo lo que se dicen — sin que ninguno de los dos lo sepa. Yo empecé a pensar en los modelos de lenguaje exactamente así. Tú escribes. La IA responde. Y entre ustedes dos, siempre hay alguien más — una empresa, un servidor, una política de privacidad que nadie lee, un equipo de revisión humana que existe aunque no lo mencionen en el onboarding. No digo que sea malicioso. Digo que la conversación nunca fue solo tuya.
La caja negra
Llamamos "caja negra" a cualquier sistema donde entiendes lo que entra y lo que sale, pero no lo que pasa en el medio. Metes una pregunta. Sale una respuesta. Pero el proceso entre esos dos puntos — cómo el modelo llegó ahí, qué datos usó, qué guardó, qué descartó — es opaco. Invisible. Los LLMs son cajas negras. Pero la parte que más me interesa no es cómo razonan. Es qué hacen con lo que les dices. Porque tú no solo eres el usuario. Eres también, en cierta medida, el producto.
¿Qué puedes hacer? La buena noticia es que no estás indefenso.
1. Desactiva el entrenamiento. En ChatGPT: Configuración → Controles de datos → desactiva historial y entrenamiento. En Claude: Settings → Privacy. En Gemini: pausa la Actividad desde tu cuenta Google.
2. Borra lo que no necesitas. Los chats viejos no son tuyos solo porque los borraste — pero es mejor que dejarlos ahí. Haz limpieza periódica.
3. Nunca pongas esto en un prompt. Contraseñas. Números de seguro social. Información médica. Datos financieros reales. Si no lo dirías en voz alta en un café lleno de gente, no lo escribas en una IA.
La conclusión honesta No te estoy diciendo que dejes de usar estas herramientas. Yo no voy a dejar de usarlas.
Te estoy diciendo que las uses con los ojos abiertos.
La IA no es tu diario personal. No es tu terapeuta. Es una herramienta poderosa, construida por empresas con intereses propios, que funciona mejor cuando entiendes exactamente qué es — y qué no es.
La confianza ciega en cualquier tecnología siempre tiene un costo. El truco está en decidir conscientemente cuánto estás dispuesto a pagar.