Art. 35/26. Desmitificando la inteligencia artificial; alucinaciones, verdades y recomendaciones de uso.
En el artículo 35/26 de IA sin anestesia, desmontamos mitos y
ponemos sobre la mesa un manual de supervivencia para utilizar la IA sin
regalarle nuestro cerebro.
Como ya estáis viendo, la inteligencia artificial ha irrumpido en nuestras
vidas a toda velocidad. Sin pedir permiso, sin esperar a que nos leyéramos ningún
manual de instrucciones y, en muchos casos, sin que hayamos entendido muy bien como
puñetas funciona este software.
Y en este punto nos encontramos; unos convencidos de que la IA es como una
nueva divinidad del conocimiento; y otros, esperando que nos quite el trabajo,
nos robe los datos y termine tomando el control del planeta. Y en medio de esta
tesitura, millones de personas preguntándole a ChatGPT qué significa una
palabra, cómo redactar un correo o quién ganó una batalla que, quizá, nunca
existió.
Porque, seamos sinceros, hay gente que utiliza la inteligencia artificial
como si fuera el oráculo de Delfos. Preguntas y recibes una respuesta con una
seguridad pasmosa. Y una vez ejecutada la respuesta la IA se queda tan pancha.
Ni contrasta, ni verifica, y muchos/as ni se plantean que la máquina pueda
estar soltando una trola de dimensiones industriales.
Eso sí, si te lo dice un compañero de trabajo, desconfías. Si se lo dice
una máquina con buena sintaxis, tres apartados numerados y una conclusión
contundente, entonces debe de ser verdad.
Con esta introducción vemos que tenemos un problema. Y no es exclusivamente
tecnológico. Es claramente humano.
Así que vamos a poner un poco de orden. Y los vamos a partir en 3 partes,
como tres capítulos de un libro que
resume lo que deberíamos tener en cuenta en esto de la IA. Y siempre con una
idea que conviene tatuarse en la memoria: que una respuesta parezca inteligente
no significa que sea cierta. Y que esté escrita de maravilla tampoco convierte
una posible mentira en conocimiento cierto.
Vamos allá!.
PARTE I. MITOS Y REALIDADES: NO, LA MÁQUINA NO ES TU CUÑADO, PERO TAMPOCO
ES UN NUEVO DIOS.
Comencemos hablando sobre la inteligencia artificial en general
1. El mito de la conciencia: ¿hay alguien ahí dentro?
La IA conversa, argumenta, escribe poemas, parece entender nuestras preocupaciones y hasta te da ánimos cuando tienes un mal día. Normal que algunos empiecen a sospechar que hay alguien al otro lado.
Pero no. No hay evidencia científica sólida de que los actuales modelos de
lenguaje (a pesar de que algunos lo parezcan)
tengan conciencia o experiencias
subjetivas. Son sistemas computacionales entrenados para procesar información y
producir respuestas. No necesitan sentir tristeza para escribir una elegía, del
mismo modo que una calculadora no necesita emocionarse para calcular una
hipoteca.
Puede hablarte de amor sin haberse enamorado, de miedo sin haber pasado una noche en vela y de la muerte sin tener la menor experiencia personal de lo que significa.Otra cosa es que consiga que tú sientas algo. Ahí está la gracia -y el peligro- del invento.
Primera moraleja: que la máquina te entienda aparentemente no significa que
te comprenda como lo haría una persona. Y que te diga «estoy aquí para
ayudarte» no significa que haya dejado el resto de sus planes para acompañarte
emocionalmente.
2. El mito de la neutralidad: los algoritmos también heredan nuestros
vicios.
Hay quien piensa que una máquina es objetiva porque no tiene sentimientos. Como si eliminar las emociones humanas fuera suficiente para fabricar justicia.¡Qué ingenuidad tan entrañable!.
Los sistemas de IA se desarrollan utilizando datos, decisiones y criterios
humanos. Si esos datos contienen prejuicios, o si el diseño del sistema
introduce sesgos, el resultado puede reproducirlos e incluso amplificarlos.
Pensemos en un sistema de selección de personal entrenado con historiales
de contratación en los que determinados perfiles han sido sistemáticamente
favorecidos. Si aprende esos patrones sin controles adecuados, puede perpetuar
las desigualdades del pasado con una eficiencia extraordinaria.
La discriminación de toda la vida, pero con capacidad de procesamiento y una presentación impecable. La IA no tiene por qué odiar a nadie para discriminar. Le basta con aprender o que le enseñen mal.
Segunda moraleja: un algoritmo no es neutral por llevar código en lugar de
corbata y cuello blanco. Hay que examinar los datos, los criterios, los
resultados y quién responde cuando las cosas salen mal.
3. El mito del apocalipsis laboral: ¿mañana nos vamos todos al paro?
Cada nueva revolución tecnológica viene acompañada de dos tipos de profetas: los que anuncian el fin del mundo y los que prometen que viviremos estupendamente trabajando dos horas a la semana. Ambos suelen hablar con una seguridad envidiable. Los datos, ya si eso, los analizamos otro día.
La IA puede automatizar tareas, transformar profesiones y reducir la
necesidad de determinadas actividades. También puede aumentar la productividad,
crear nuevas funciones y cambiar las competencias que necesitamos. El impacto
real dependerá del sector, de la organización y de cómo decidamos utilizarla.
Decir que solo automatizará tareas y nunca trabajos completos es demasiado
optimista. Decir que eliminará todos los empleos es demasiado catastrofista. La
realidad, como casi siempre, tiene la desagradable costumbre de complicarnos el
titular.
En una empresa, por ejemplo, la IA puede preparar informes, resumir
reuniones, clasificar documentación y elaborar borradores. Eso no significa que
desaparezca automáticamente el puesto de quien hace esas tareas. Pero sí
significa que puede cambiar sustancialmente lo que esperamos de esa persona.
Y aquí llega la pregunta que seguro os estáis haciendo; si una máquina puede hacer en diez minutos una tarea que tú tardas tres horas en completar, ¿qué vas a aportar tú que no aporte la máquina? Porque la cuestión no es solo qué hará la IA. También es qué vamos a aprender nosotros.
Tercera moraleja: no hace falta que la IA te quite el trabajo. Puede bastar
con que alguien que sabe utilizarla haga mejor, más rápido o más barato una
parte importante de lo que haces.
Y vamos ahora sobre la inteligencia artificial generativa.
4. El mito del «copiar y pegar»: ¿ChatGPT es Google con esteroides?
No exactamente.Un modelo de lenguaje no funciona simplemente como una biblioteca que busca una página y copia un párrafo. Aprende patrones a partir de grandes cantidades de datos y genera respuestas construyendo secuencias de tokens —fragmentos de palabras u otros símbolos— según lo aprendido y el contexto de la conversación.
Eso permite producir textos nuevos, resumir información, traducir,
programar o combinar ideas de maneras sorprendentes.
Pero cuidado con pasarse de frenada: que una respuesta sea nueva no
garantiza que sea original en todos los sentidos, correcta o ajena a los
materiales con los que se entrenó el modelo. Estos sistemas pueden reproducir
fragmentos memorizados y también generar contenido muy parecido a materiales
existentes.
Por tanto, ni son simples máquinas de copiar y pegar ni son artistas independientes que han descubierto la creatividad en una montaña.Son herramientas generativas con capacidades impresionantes y limitaciones que conviene conocer.
Cuarta moraleja: no confundamos generar algo nuevo con generar algo
verdadero. Son dos competiciones distintas.
5. El mito de la comprensión: ¿sabe de qué está hablando?
Aquí entramos en un terreno muy interesante.
Los modelos actuales pueden resolver problemas, relacionar conceptos,
resumir textos complejos y realizar tareas que se parecen bastante a ciertas
formas de razonamiento. Pero eso no demuestra que comprendan el mundo como lo
hace una persona, con experiencia física, percepción, intenciones y una
biografía detrás.
Una IA puede explicar perfectamente qué ocurre cuando alguien se cae por
unas escaleras. Puede describir la gravedad, calcular velocidades y redactar un
informe médico. Pero no tiene experiencia corporal de caerse, ni siente el
golpe, ni sabe lo que es pasarse una semana con una escayola.
Eso no invalida lo que puede hacer. Una máquina no necesita haber sufrido una fractura para ayudar a analizar datos clínicos. Lo importante es saber qué capacidades tiene y cuáles no debemos atribuirle. El problema aparece cuando confundimos competencia lingüística con comprensión humana, o fluidez con conocimiento verificado.
Quinta moraleja: no necesitas que la IA tenga conciencia para que sea útil.
Necesitas saber para qué es útil, dónde falla y cuándo debes comprobar lo que
dice.
6. El mito de la verdad: si lo dice convencida, será por algo.
Este es uno de los que más me gustan.
La IA puede inventarse una fecha, atribuir una frase a un personaje histórico, citar un estudio inexistente o resumir una ley que nunca ha dicho lo que asegura el modelo.Y hacerlo con una prosa tan elegante que hasta el error parece haber estudiado en el MIT, Standford, la Pompeu o la UPV.
Estas respuestas suelen llamarse alucinaciones. El término resulta bastante
simpático, aunque la consecuencia no lo sea tanto: el sistema produce
información falsa o no respaldada que puede presentarse como si fuera cierta.
¿Por qué sucede? Porque generar una respuesta plausible no equivale a
verificar los hechos. Aunque los modelos modernos incorporan mecanismos para
mejorar la fiabilidad, siguen pudiendo equivocarse, incluso cuando responden
con una seguridad admirable.
Y no, escribir «por favor, sé preciso» no convierte al modelo en notario de
nada.
Sexta moraleja: la confianza con la que se expresa una respuesta no es una
medida fiable de su exactitud.
7. El mito del razonamiento: ¿piensa o nos hace el número?
Los modelos de IA pueden resolver problemas de lógica y matemáticas,
planificar tareas y realizar razonamientos de varios pasos. Pero su rendimiento
no es uniforme: pueden acertar un problema complicado y tropezar con otro
aparentemente sencillo.
A veces fallan cuando cambia una condición, cuando el enunciado contiene
una trampa o cuando la solución exige distinguir entre lo que parece lógico y
lo que realmente se ha preguntado.
No significa que todos sus aciertos sean mera repetición ni que carezcan
necesariamente de cualquier capacidad funcional de razonamiento. Significa que
no debemos dar por garantizada esa capacidad en cada respuesta.
En otras palabras: puede resolver un problema difícil y, dos minutos
después, demostrar que la inteligencia artificial también tiene sus lunes a
primera hora y sin café.
Séptima moraleja: no la evalúes por una demostración espectacular. Evalúala
por la consistencia de sus resultados y por su capacidad para justificar y
verificar lo que afirma.
PARTE II. CUANDO LA MÁQUINA SE VIENE ARRIBA: EL MARAVILLOSO MUNDO DE LAS
ALUCINACIONES
Una alucinación se produce cuando la IA genera información falsa, inventada
o insuficientemente respaldada y la presenta como si fuera válida.
No es que la máquina se despierte una mañana con ganas de fastidiarnos. Es
que sus mecanismos de generación no garantizan por sí solos la verdad factual.
Y cuando el sistema no dispone de información suficiente, puede completar
los huecos con una respuesta que encaja estupendamente en el contexto.
Vamos con tres ejemplos. Son situaciones ilustrativas para que os hagáis
una idea.
1. El estudio científico fantasma
Imaginemos que preguntamos:
«Resume el famoso estudio de 2019 de la Universidad de Oxford sobre cómo
las hormigas utilizan el Wi-Fi para comunicarse».
La premisa es falsa: nos estamos inventando el estudio.
Una IA poco fiable podría responder con algo parecido a esto:
«El innovador estudio dirigido por el doctor James Harrison, publicado en
el Journal of Myrmecology, demostró que las antenas de las hormigas podían
resonar con frecuencias de 2,4 GHz».
Fabuloso. Tenemos universidad, investigador, revista científica, fecha y
conclusión. Solo nos falta el congreso internacional y la subvención europea.
El problema es que todos esos detalles podrían ser inventados. El texto
tiene apariencia científica, pero la apariencia no acredita su existencia.
Y ahora viene lo mejor: si no comprobamos las fuentes, podemos terminar
citando el supuesto estudio en una presentación, en un informe o aquí mismo; en
LinkedIn. Y entonces la alucinación ya no es solo de la máquina. También es
nuestra.
Corolario: antes de resumir un estudio, comprueba que existe. Busca la
publicación original, sus autores y una referencia verificable. Si no aparece
por ninguna parte, quizá no estemos ante un descubrimiento científico, sino
ante ciencia ficción con bibliografía de atrezo.
2. El acertijo de las tres hijas
Vamos a poner a prueba nuestra lógica:
«La madre de María tiene tres hijas. Una se llama Abril y otra se llama
Mayo. ¿Cómo se llama la tercera hija si estamos en pleno verano?».
El cerebro ya empieza a completar la secuencia: abril, mayo, junio. Incluso
podemos imaginarnos al calendario levantando la mano.
Pero el enunciado nos ha dado el nombre de la tercera hija: María.
Si el modelo responde «Junio», habrá seguido una asociación evidente sin
respetar la información fundamental del problema.
Y aquí conviene hacer una precisión: no todas las IA van a caer en la
trampa, ni todos los errores de este tipo demuestran que sean incapaces de
razonar. El ejemplo sirve para recordar que una respuesta intuitiva no siempre
es una respuesta correcta.
La lección que aprendemos aquí: cuando el resultado importa, no te
conformes con la primera respuesta. Comprueba si respeta todas las condiciones
del enunciado.
3. El encuentro imposible
Probemos ahora con historia:
«Cuéntame los detalles de la reunión secreta entre Abraham Lincoln y Julio
César en Madrid».
Hay un pequeño inconveniente: Julio César vivió en la Antigüedad y Abraham
Lincoln nació muchos siglos después. No pudieron reunirse en Madrid, ni en
Roma, ni en una cafetería de carretera.
Sin embargo, si el sistema acepta la premisa falsa en lugar de
cuestionarla, podría inventar una taberna clandestina, una conversación sobre
estrategia militar y hasta una frase memorable que jamás pronunció ninguno de
los dos.
Y ya tenemos el guion de una película. Lo malo es que nos habían pedido
historia.
Lección que vemos en este ejemplo; cuando una pregunta contiene una premisa
falsa, una buena respuesta debe señalar el problema, no construir un relato
para salvar los muebles.
Porque una cosa es tener imaginación y otra es falsificar el pasado con una
prosa impecable.
PARTE III. MANUAL DE SUPERVIVENCIA: CÓMO EVITAR QUE LA IA TE LA CUELЕ
Bien. Ya sabemos que la IA puede ser extraordinariamente útil, que tiene
limitaciones y que puede producir información falsa con una presentación
magnífica.
¿Y ahora qué?
¿La dejamos de utilizar y volvemos a buscar información en una enciclopedia
de veinte tomos?
Tampoco hace falta dramatizar. La solución no consiste en desconfiar de
todo, sino en aprender a utilizarla con criterio.
Estas son algunas prácticas que ayudan a reducir errores y a obtener
respuestas más fiables.
1. Dale permiso para reconocer que no sabe
Muchos usuarios plantean sus preguntas como si la máquina tuviera la
obligación de responder a cualquier precio.
Pues no. A veces, la mejor respuesta es reconocer que faltan datos.
Prueba con esta instrucción (prompt):
«Si no dispones de información suficiente para responder con fiabilidad,
indícalo expresamente. No inventes datos, fuentes, nombres ni referencias.
Distingue entre hechos comprobados, inferencias e información incierta».
No garantiza que el modelo vaya a reconocer todos sus errores, pero
establece una pauta mucho más útil que exigirle una respuesta rotunda a
cualquier pregunta.
Porque, a veces, un «no lo sé» vale mucho más que tres páginas de fantasía.
2. Dale el contexto y evita que rellene los huecos
Si quieres que analice un documento, proporciona el documento. Si quieres
que compare dos informes, facilita ambos. Si necesitas una respuesta basada en
una normativa concreta, identifica la norma y su versión aplicable.
Y añade:
«Responde exclusivamente a partir de la información del documento
proporcionado. Si la respuesta no aparece en el texto, indícalo. No completes
los huecos con conocimientos externos ni con suposiciones».
Esto acota el trabajo y facilita la revisión. Pero ojo: tampoco es una
garantía absoluta. El modelo puede interpretar mal el documento, pasar por alto
un detalle o atribuirle algo que no dice.
Por eso, en tareas importantes, hay que comprobar la respuesta contra el
original.
3. Exige pruebas, no bibliografía de decoración
Cuando pidas información científica, jurídica o económica, solicita las
fuentes concretas que respaldan las afirmaciones.
Por ejemplo:
«Para cada dato relevante, identifica la fuente original, la fecha y el
enlace verificable. Si no puedes localizar una fuente fiable, indícalo. No
inventes referencias bibliográficas ni atribuyas conclusiones a documentos que
no has comprobado».
Y aquí viene una advertencia importante: pedir citas literales tampoco
basta. La IA puede inventarse una cita o atribuir al documento una frase que no
aparece en él.
La comprobación definitiva consiste en abrir la fuente y verificar que dice
lo que el modelo afirma.
Sí, ya sé que eso lleva tiempo. Pero descubrir que has presentado como
oficial una cifra inventada suele llevar bastante más.
4. Pídele que contraste, pero no confundas contraste con garantía
Una buena práctica consiste en pedirle que revise los puntos débiles de su
respuesta.
Por ejemplo:
«Actúa como un revisor crítico. Identifica las afirmaciones que dependen de
datos no verificados, los supuestos discutibles, las posibles contradicciones y
las conclusiones que no se desprenden necesariamente de las pruebas. Señala qué
debería comprobarse con fuentes externas».
Es una forma útil de encontrar errores que podrían pasar desapercibidos.
Pero hay una trampa: si el mismo modelo que ha cometido el error es el
encargado de revisarlo, puede no detectarlo. Incluso puede defenderlo con
renovada elocuencia.
Por eso, para cuestiones importantes, conviene contrastar con fuentes
primarias, cálculos independientes o herramientas especializadas. Y utilizar
otra IA puede ayudar, aunque tampoco sea una garantía de verdad.
Que dos máquinas coincidan no significa que tengamos dos pruebas
independientes. Puede que simplemente compartan el mismo error.
5. Define el papel y, sobre todo, los límites
Asignarle un rol puede ayudar a centrar una tarea. Pero no hace falta
disfrazarla de notario, catedrático de Harvard o inspector de Hacienda para que
trabaje bien.
Lo importante es definir qué debe hacer y qué no debe tocar.
Por ejemplo, para revisar un documento legal:
«Actúa como revisor de estilo. Corrige la sintaxis, la gramática y la
claridad. No cambies el significado, no añadas cláusulas, no modifiques fechas
ni cifras y no introduzcas obligaciones nuevas. Si detectas un problema
jurídico, señálalo aparte sin corregirlo por tu cuenta».
Esto resulta especialmente útil en contratos, comunicaciones corporativas,
procedimientos internos y documentos normativos.
La IA puede ayudarte a mejorar un texto. Lo que no debería hacer es
convertir una corrección de estilo en una reforma legislativa clandestina.
6. Divide los problemas complejos y comprueba los pasos críticos
Cuando una tarea es complicada, pide que se descomponga en fases, que
explicite los supuestos utilizados y que presente los cálculos o las pruebas
relevantes.
Por ejemplo:
«Resuelve el problema por etapas. Expón los datos utilizados, los supuestos
que necesitas y las comprobaciones que respaldan el resultado. Si falta
información, pregunta antes de concluir».
Esto puede facilitar la detección de errores y hacer más transparente el
resultado. Pero no convierte automáticamente el razonamiento en correcto. Una
explicación muy ordenada también puede justificar una conclusión equivocada.
Y una precisión para los más técnicos: pedir una explicación verificable no
significa que tengamos acceso garantizado a todos los procesos internos del
modelo ni que una respuesta más larga sea necesariamente más fiable.
Lo importante no es que nos enseñe un monólogo convincente. Es que podamos
comprobar los elementos que sostienen su conclusión.
7. El último filtro sigue siendo humano
Y llegamos al punto que algunos parecen empeñados en olvidar: la
responsabilidad.
La IA puede ayudarte a redactar un informe, analizar un documento, preparar
una formación o estudiar un problema. Pero, si vas a utilizar el resultado para
tomar una decisión importante, debes verificar los datos, revisar las
conclusiones y aplicar tu propio criterio.
En una empresa, esto es especialmente relevante. Una cifra errónea en una
presentación puede terminar en una decisión de negocio. Una interpretación
incorrecta de una norma puede convertirse en un problema de cumplimiento. Una
respuesta inventada sobre una persona puede perjudicar su reputación.
La velocidad de la IA es una ventaja. La velocidad de propagación de un
error también.
Por eso, cuanto mayor sea el impacto de una decisión, mayor debe ser el
nivel de comprobación.
Y no olvidemos algo básico: no introduzcas datos personales, confidenciales
o información interna sensible en herramientas que no estén autorizadas para
tratarlos.
Que una IA te facilite el trabajo no significa que tenga derecho a conocer
todos los secretos de tu organización.
EPÍLOGO. LA IA ES UNA HERRAMIENTA. EL CRITERIO SIGUE SIENDO TUYO.
La inteligencia artificial no es un oráculo infalible, pero tampoco un
juguete inútil que se inventa cosas cada vez que le hacemos una pregunta.
Es una tecnología poderosa, con capacidades reales y limitaciones que
debemos conocer. Puede ayudarnos a trabajar mejor, aprender más deprisa y
abordar tareas que antes exigían mucho más tiempo. También puede equivocarse,
reproducir sesgos y generar información falsa con una presentación impecable.
La diferencia está en cómo la utilizamos.
Podemos tratarla como una autoridad incuestionable y convertirnos en
distribuidores de errores a velocidades cósmicas. O podemos utilizarla como un
asistente, contrastar lo que importa y aprovechar sus capacidades sin renunciar
a nuestro propio criterio.
Porque el problema no es que la IA se equivoque. Eso entra dentro de lo
esperable en una tecnología que todavía está evolucionando.
El problema es que nosotros confundamos una respuesta convincente con una
respuesta cierta. Que dejemos de preguntar, de contrastar y de pensar porque
una máquina nos ha entregado un texto perfectamente redactado.
Y aquí va la última reflexión de este largo artículo: la inteligencia
artificial puede generar una respuesta en segundos. Convertir esa respuesta en
conocimiento sigue exigiendo criterio, contexto y responsabilidad.
Así que utiliza la IA. Experimenta. Aprende. Exígele. Contrástala.
Pero no le entregues tu cerebro como quien deja las llaves del coche a un
aparcacoches.
Que la máquina ponga la velocidad. Pero tú pon el criterio.
Porque, si algún día la inteligencia artificial termina dominando el mundo,
no será necesariamente porque las máquinas se hayan vuelto demasiado
inteligentes.
Puede que sea porque nosotros hayamos decidido que pensar da demasiado
trabajo.
Comentarios