Lo que la IA no puede hacer, por bien que preguntes
Hay errores que ningún prompt elimina, porque están en la construcción. Contar, calcular, la fecha de hoy, el azar, recordar. Esta lección muestra los límites duros y qué hacer en su lugar.
Hay un tipo de error de IA con el que fallan todos los consejos. Formulas mejor, das más contexto, cambias de modelo, y aun así vuelve el mismo disparate. Eso no es culpa de tu prompt. Es que estás pidiendo algo que la construcción no da de sí.
Esta lección es el mapa de esos límites. Es deliberadamente poco espectacular, porque en cuanto los conoces dejas de invertir tiempo en prompts que nunca van a funcionar.
La diferencia con la alucinación
En Detectar alucinaciones se trataba de que el modelo se inventa hechos y los vende de forma convincente. Ese es un problema de verdad, y la contramedida es comprobar.
Aquí se trata de otra cosa: de límites de capacidad. El modelo no miente, sencillamente no puede ejecutar determinadas operaciones. Por eso la contramedida también es distinta. Comprobar aquí te sirve de poco. Tienes que rehacer la tarea o poner una herramienta al lado.
Recuerda la diferencia así: con las alucinaciones controlas el resultado. Con los límites de capacidad cambias la tarea.
No cuenta, estima
Pregúntale a un modelo de lenguaje cuántas erres tiene "arroz". La respuesta es errónea sorprendentemente a menudo, aunque cualquier niño de primaria llega a dos.
El motivo es discreto e importante: el modelo no ve tu texto como una cadena de letras. Antes lo descompone en piezas, los llamados tokens, y un token suele ser una sílaba o una palabra corta entera, no una letra suelta. O sea que el modelo ni siquiera mira las letras de las que le hablas. Responde desde la intuición de cómo suele sonar una respuesta así.
Lo mismo vale para todo lo que tenga que ver con contar. Cuántas palabras tiene este párrafo, cuántas entradas hay en la lista, si esa es la tercera o la cuarta línea. En todos esos casos te toparás con cifras plausibles pero poco fiables.
No calcula, recuerda cálculos
Con 12 por 12 el resultado es correcto. Con 4.837 por 2.916 la cosa se pone interesante. No porque la segunda cuenta sea más difícil, sino porque la primera aparecía millones de veces en el texto de entrenamiento y la segunda no.
Un modelo de lenguaje no ejecuta un cálculo. Predice qué caracteres suelen venir después de un signo de igual. Con las operaciones conocidas acierta, con cifras poco habituales se desmorona. Y lo traicionero: el resultado siempre tiene pinta de resultado. No viene con ningún aviso.
En cuanto hay dinero, plazos o cantidades de por medio, cada cálculo va a una hoja de cálculo o a una calculadora. También cuando la IA ya ha dicho una cifra.
No sabe qué día es hoy
Un modelo no tiene sentido del tiempo. Tiene una fecha de corte de entrenamiento, y a partir de ahí, para su mundo interior, no ha pasado nada más. Si aun así un chat te dice la fecha correcta, suele ser porque la aplicación se la ha pasado sin que lo veas, o porque ha mirado un momento en la red.
De ahí se derivan dos cosas para tu día a día. Primero: no cuentes con que el modelo sepa lo que pasó la semana pasada. Segundo, y esto se le escapa a casi todo el mundo: no le preguntes al propio modelo cómo de actual es. Esa información es poco fiable por experiencia, porque el modelo también responde sobre sí mismo a partir del texto de entrenamiento.
Cuando la actualidad cuenta, necesitas una herramienta que mire y una fuente que abras tú.
No sabe tirar los dados
Pídele a una IA diez veces un número al azar entre 1 y 100, cada vez en un chat nuevo. Verás los mismos números con una frecuencia llamativa.
No es un bug. El modelo no elige al azar, elige lo más probable. Y en los textos con los que se entrenó, ciertos números aparecen como "número al azar" sencillamente más a menudo que otros. Donde las personas teclean al azar, la máquina también tiene su escora.
En la práctica eso significa: para sorteos, muestreos o contraseñas, un modelo de lenguaje es la herramienta equivocada. Coge algo que tire los dados de verdad.
Te olvida entre dos chats
Un chat nuevo empieza de cero. Lo que explicaste ayer, qué abreviaturas valen en tu empresa, cómo quieres que se dirijan a ti, todo eso ha desaparecido. No borrado en el sentido de perdido, sino que nunca llegó a entrar en el modelo. El modelo en sí no aprende nada de vuestra conversación.
Lo que en algunas herramientas se siente como memoria es una capa por encima: notas que la aplicación guarda y le vuelve a pasar la próxima vez. Útil, pero algo que alguien ha construido, y no algo que el modelo sepa hacer por sí solo.
Si quieres saber cómo funciona una capa así y cómo montártela tú, el nivel 4 entero va de eso. La entrada es Por qué la memoria.
No se conoce a sí mismo
Pregúntale a un modelo qué modelo es, cómo de seguro estaba de su última respuesta o cuánto medía el texto que acaba de escribir. Las tres respuestas suenan solventes y las tres están poco fundamentadas.
Un modelo no tiene una mirada sobre sí mismo. No puede medir su propia fiabilidad, y no va contando su propia salida. Por eso también falla con tanta fiabilidad el clásico "escríbeme exactamente 200 palabras". Escribe algo que se parece más o menos a 200 palabras y para cuando le suena redondo.
Cuando la longitud exacta cuenta, dale una estructura en lugar de una cifra. Cinco párrafos, tres frases por párrafo. Eso sí lo acierta el modelo, porque son unidades contables que va poniendo igualmente mientras escribe.
Qué haces en su lugar
Tres movimientos cubren casi todo.
El primero: dale a la IA una herramienta en vez de una tarea. Contar, calcular, la fecha de hoy, azar de verdad, todo eso son cosas que un ordenador hace a la perfección, solo que no la parte de texto. Por eso los asistentes modernos pueden invocar herramientas, y justo para eso están. Cómo funciona por dentro está en Herramientas en la IA.
El segundo: rehaz la tarea. En vez de "cuántos clientes hay en la lista", mejor "dame la lista numerada", y así el número lo ves tú al final. En vez de un número exacto de palabras, una estructura. En vez de un cálculo, una fórmula que metes en tu hoja de cálculo.
El tercero: reconoce pronto la categoría. Si una respuesta tiene que ser exacta y comprobable, y una calculadora, un calendario o un buscador la responderían mejor, entonces no es una cuestión de prompt. Entonces es la elección equivocada de herramienta.
La frase para llevarte
Un modelo de lenguaje es bueno generando lenguaje y mediocre o malo en todo lo que necesita exactitud. Eso no es una debilidad que desaparezca con la próxima versión. Es la descripción de lo que es.
Quien lo sabe deja de luchar a golpe de prompt contra la construcción y empieza a hacer el trabajo correcto en el sitio correcto.