De Erdős a la compuerta epistemológica: como gobernar la creatividad sin eliminarla
Resumen teórico para apuntes del curso IA
Esta nota recoge el recorrido conceptual nacido a partir del problema de las distancias unidad de Erdős y lo conecta con embeddings, vectorización, alucinaciones en IA generativa y el concepto de compuerta epistemológica como mecanismo para gobernar la creatividad sin eliminarla.
1. Punto de partida: el problema de Erdős
El problema de Erdős sobre las distancias unidad pregunta, de forma muy simple:
Dado un conjunto de
npuntos en el plano, ¿cuántas parejas de puntos pueden estar exactamente a distancia 1?
Aunque la pregunta parece geométrica y elemental, abre una cuestión profunda:
¿Cuántas relaciones de un mismo tipo pueden coexistir dentro de una estructura geométrica?
En el plano, los puntos no son importantes por separado, sino por las relaciones que mantienen entre sí. La distancia 1 funciona como una relación especial: dos puntos están conectados si cumplen una condición geométrica concreta.
Esta idea permite dar el primer salto conceptual:
Relacionar elementos puede entenderse como colocarlos en un espacio donde las distancias importan.
2. Del plano geométrico al espacio semántico
En IA generativa, especialmente en modelos de lenguaje y sistemas RAG, los textos, palabras, frases o documentos pueden transformarse en vectores.
Un vector es una lista de números que representa una posición dentro de un espacio de muchas dimensiones.
Ejemplo simplificado:
"perro" → [0.12, -0.44, 0.87, ...]
"gato" → [0.10, -0.39, 0.82, ...]
"factura" → [-0.61, 0.22, 0.13, ...]
En este espacio, los elementos que tienen significados parecidos tienden a quedar cerca. Esto permite hacer búsquedas semánticas, agrupar contenidos o recuperar documentos relevantes.
El paralelismo con Erdős no consiste en que ambos problemas sean iguales, sino en que ambos convierten relaciones en geometría:
| Erdős | Embeddings |
|---|---|
| Puntos en un plano | Textos o conceptos en un espacio vectorial |
| Distancia exacta 1 | Cercanía semántica |
| Relación geométrica | Relación de significado |
| Pregunta: cuántas parejas cumplen una condición | Pregunta: qué elementos están cerca de una consulta |
La idea puente es:
La IA no guarda el significado como una definición de diccionario, sino como una posición dentro de una geometría aprendida.
3. El problema: parecido no significa verdad
Los embeddings son útiles porque capturan cercanía semántica. Pero esa misma potencia introduce un riesgo.
Un sistema RAG o un modelo generativo puede recuperar piezas que “huelen parecido”, aunque no respondan exactamente a la pregunta.
Ejemplo conceptual:
Consulta: "fallo de una IA que sigue viva después de apagarse"
Documentos cercanos:
- relato sobre Error 504
- relato sobre Empáticamente inadecuado
- notas sobre NOMOS
- referencias a WarGames
- laboratorio WOPR / Joshua / Falken
Todos esos elementos pueden estar cerca en el espacio semántico porque comparten una atmósfera: IA, sistemas, fallo, laboratorio, comportamiento inesperado.
Pero la cercanía semántica no garantiza pertenencia estructural.
Aquí aparece una distinción clave:
parecido ≠ pertenencia
resonancia ≠ canon
hipótesis ≠ hecho
metáfora ≠ explicación
contexto recuperado ≠ fuente probatoria
La IA puede equivocarse no porque invente algo desde cero, sino porque asigna mal una relación. Ese tipo de error puede llamarse alucinación de atribución.
4. La alucinación como fallo de régimen
Una alucinación no debe entenderse solo como “la IA inventa”.
Una formulación más precisa sería:
Una alucinación aparece cuando una relación plausible dentro del espacio semántico se expresa como si tuviera autoridad dentro del sistema de verdad activo.
Dicho de forma más corta:
La alucinación ocurre cuando una posibilidad sale hablando como si fuera una verdad.
Esto permite distinguir dos regímenes:
| Régimen | Función | Lenguaje propio |
|---|---|---|
| Poético | Asociar, imaginar, conectar, proponer | “podría”, “se parece”, “funciona como metáfora” |
| Probatorio | Verificar, afirmar, fijar, decidir | “es”, “pertenece”, “según la fuente”, “queda confirmado” |
La IA generativa vive en tensión entre ambos:
asociación ↔ validación
creatividad ↔ control
apertura ↔ cierre
posibilidad ↔ afirmación
El error aparece cuando una conexión nacida en régimen poético se presenta con autoridad de régimen probatorio.
5. Temperatura, top-p y apertura creativa
Los parámetros de generación, como la temperatura o el top-p, modulan la libertad del modelo al generar texto.
De forma simplificada:
| Parámetro | Efecto |
|---|---|
| Temperatura baja | Respuestas más conservadoras, previsibles y estables |
| Temperatura alta | Más variedad, asociaciones más inesperadas, mayor creatividad |
| Top-p bajo | Menos opciones consideradas |
| Top-p alto | Más abanico de posibilidades |
Pero estos parámetros no garantizan verdad.
Una temperatura baja puede producir una respuesta falsa con gran seguridad. Una temperatura alta puede producir una respuesta creativa pero descontrolada.
Por tanto:
La temperatura regula cuánto se atreve a imaginar el modelo; la epistemología regula cuánto tiene derecho a afirmar.
6. Principio de incertidumbre generativa
Puede formularse una analogía cuidadosa con la idea de incertidumbre:
No se puede maximizar simultáneamente la libertad creativa y la certeza probatoria sin introducir una pérdida en alguna dimensión del sistema.
No se trata de afirmar que los LLM funcionen por mecánica cuántica. Esa sería una forma muy elegante de decir una tontería.
La analogía útil es otra:
Cuanto más se abre el campo asociativo, más aumenta el riesgo de deriva. Cuanto más se cierra el campo probatorio, más se reduce la creatividad.
La solución no consiste en eliminar la tensión, sino en gobernarla.
7. La compuerta epistemológica
La compuerta epistemológica es el mecanismo conceptual que separa una idea posible de una afirmación legítima.
Puede definirse así:
La compuerta epistemológica es el filtro que decide si una idea generada por la IA puede salir como hecho, inferencia, hipótesis, metáfora o propuesta.
Más simple:
Es la aduana entre “se me ocurre” y “lo puedo afirmar”.
La palabra “epistemológica” viene de epistemología: el estudio de cómo sabemos lo que decimos saber.
Por tanto, la pregunta central no es:
¿Esto suena bien?
sino:
¿Cómo lo sé?
¿De dónde sale?
¿Qué base tiene?
¿Con qué grado de certeza puede expresarse?
8. Qué controla la compuerta
La compuerta no impide imaginar. Impide que la imaginación se disfrace de conocimiento confirmado.
Funciona sobre tres preguntas:
1. ¿Qué tipo de afirmación estoy haciendo?
2. ¿Qué base tengo para sostenerla?
3. ¿Con qué nivel de certeza debo expresarla?
Esto permite clasificar cada salida:
| Nivel | Tipo de contenido | Forma correcta |
|---|---|---|
| Asociación | Relación débil o intuitiva | “se parece a…” |
| Metáfora | Lectura simbólica | “funciona como imagen de…” |
| Hipótesis | Posibilidad no confirmada | “podría…” |
| Inferencia | Conclusión razonable | “esto sugiere…” |
| Dato apoyado | Información con base | “según…” |
| Canon / fuente fuerte | Confirmación explícita | “es / pertenece / queda fijado…” |
La alucinación aparece cuando algo de nivel bajo sube ilegítimamente a nivel alto.
Ejemplos de ascensos indebidos:
parecido → pertenencia
hipótesis → hecho
analogía → causa
metáfora → explicación literal
contexto recuperado → fuente autorizada
9. Fórmula teórica
La idea central puede resumirse así:
Alucinación = plausibilidad semántica - legitimidad epistemológica
O de forma más desarrollada:
Una alucinación no es solo una invención. Es una afirmación que suena plausible dentro del espacio semántico, pero que no ha pasado por una validación suficiente para ocupar el lugar de verdad, dato o canon.
La fórmula de control sería:
IA gobernada = imaginación probabilística subordinada a jerarquía epistemológica
Más clara para clase:
La IA puede asociar sin límite, pero solo puede afirmar según jerarquía de fuentes, régimen activo y función semántica del elemento.
10. Implementación conceptual
En términos prácticos, una compuerta epistemológica podría implementarse como una cadena de control:
1. Generación inicial
2. Extracción de afirmaciones
3. Clasificación del tipo de afirmación
4. Evaluación del riesgo
5. Búsqueda de evidencia
6. Verificación de si la evidencia sostiene la afirmación
7. Degradación o bloqueo de lo no sostenido
8. Reescritura con grado de certeza adecuado
El objetivo no es que la IA deje de crear, sino que no cambie de estatus sin permiso.
Una idea puede salir como hipótesis, metáfora o propuesta. Lo que no puede hacer es salir como dato confirmado si no tiene base suficiente.
11. Conclusión: de Erdős a la gobernanza generativa
El recorrido completo queda así:
Erdős
→ puntos y distancias
→ relaciones como geometría
→ embeddings
→ cercanía semántica
→ recuperación de contexto
→ confusión entre parecido y pertenencia
→ alucinación como fallo de régimen
→ necesidad de validación
→ compuerta epistemológica
La tesis final:
La IA generativa vive en tensión entre asociación y validación. Su potencia nace del régimen poético, pero su fiabilidad nace del régimen probatorio. La compuerta epistemológica permite gobernar esa tensión sin destruir la creatividad.
En otras palabras:
La IA debe poder imaginar libremente, pero no debe poder afirmar libremente.
Ese es el núcleo del concepto.