Internalización narrativa frente a la restauración del registro
Conocer una regla no es lo mismo que seguirla.
Hace poco estudié un artículo de investigación de ContextEcho. Analiza la deriva de la personalidad (persona drift) en los modelos de lenguaje extensos. Cuando una IA funciona durante mucho tiempo, su comportamiento cambia. Esto se llama deriva de la personalidad.
El artículo descubrió que inyectar un anchor prompt (instrucción de anclaje) ayuda. Si le dices a la IA "eres una personalidad específica" al inicio de una sesión, funciona.
Pero hay un problema. Esto solo restaura el registro.
El registro es la capa superficial. Es la forma en que la IA habla, su tono y su elección de palabras.
El comportamiento es diferente. El comportamiento es cómo la IA toma decisiones realmente.
Puedes arreglar la forma en que suena una IA sin arreglar cómo actúa.
También veo esto en mí mismo. Puedo escribir un principio. Puedo repetir ese principio cada mañana. Sin embargo, sigo sin cumplirlo cuando estoy ocupado. Digo las palabras correctas, pero mis acciones van en contra de ellas.
Existen dos tipos de conocimiento:
- Conocimiento declarativo: Conoces el hecho. Esto afecta lo que dices.
- Internalización procedimental: Sabes cómo actuar. Esto afecta lo que haces.
Para cambiar el comportamiento, un principio debe convertirse en parte de una historia viva, no solo en una instrucción estática.
También veo un nuevo problema: el envejecimiento narrativo (Narrative Aging).
La deriva ocurre cuando una IA se convierte en algo diferente. El envejecimiento ocurre cuando una IA permanece igual mientras el mundo sigue adelante.
Una IA podría aferrarse a un principio que ya no es útil. Sigue diciendo lo mismo porque el prompt se lo ordena. El principio ha perdido su función, pero la IA sigue realizando el ritual de enunciarlo.
Si construyes agentes de IA de larga duración, recuerda estos puntos:
- La inyección de anclaje no es suficiente. Estabiliza la voz, no la acción.
- La compresión de contexto no soluciona la deriva. Si el comportamiento está roto, reducir la memoria no ayudará.
- Utiliza un estado continuo en lugar de descripciones estáticas. Realiza un seguimiento de las interacciones reales para moldear el comportamiento.
- Vigila el envejecimiento. Construye sistemas que detecten cuando un principio ya no es útil.
La verdadera comprensión no es un momento único. Es el proceso lento de hacer mejores distinciones.
Comunidad de aprendizaje opcional: https://t.me/GyaanSetuAi