¿Robots que tropiezan? ¿Qué son las alucinaciones de la IA?

En su icónica novela inspirada en Blade Runner ¿Sueñan los androides con ovejas eléctricas? Philip K. Dick reflexiona sobre las cuestiones éticas y filosóficas que surgen cuando los seres artificiales desarrollan una conciencia similar a la humana. La novela explora si una entidad creada por el hombre es capaz de adoptar las características de la sensibilidad, como la autoconciencia, las emociones y la capacidad de percepción. ¿Qué significaría esto para los límites que existen entre la inteligencia humana y la artificial?

Acceso sin precedentes a la inteligencia artificial

Aquí es, por supuesto, donde entran las alucinaciones de la IA. Con la reciente afluencia de grandes modelos lingüísticos (LLMs) como ChatGPT, nos hemos enfrentado a la inteligencia artificial de una forma nunca antes vista. Las ventajas y los inconvenientes son numerosos y controvertidos. Pero uno de los más fascinantes/frustrantes/miedosos/graciosos (dependiendo de su perspectiva) de este despliegue tecnológico han sido las alucinaciones de la IA. Estas "alucinaciones" se producen cuando los LLM presentan información falsa, engañosa o irracional como si fuera un hecho. Muchos usuarios han descubierto que las respuestas a sus preguntas proporcionadas por estos sistemas son manifiestamente falsas. Esto suele ocurrir cuando un LLM no recibe datos de suficiente calidad o contexto para trabajar. 

¿Puede una máquina alucinar?

El término que se ha elegido para este bicho, "alucinaciones", es interesante. Al principio puede parecer paradójico, ya que las alucinaciones se asocian tradicionalmente a cerebros humanos o animales, no a máquinas frías y duras. Sin embargo, desde un punto de vista metafórico, alucinación resulta ser un término bastante preciso para describir estas disfunciones, sobre todo en casos de reconocimiento de imágenes y patrones. 

¿Sabe que ve figuras en las nubes o caras en objetos inanimados? Se trata de un fenómeno humano muy natural llamado pareidolia. Pero las alucinaciones de la IA podrían describirse de forma similar, buscando patrones reconocibles en una maraña de datos. Sus interpretaciones erróneas pueden deberse a varios factores, como el sesgo o la imprecisión de los datos de entrenamiento, el exceso de ajuste y la elevada complejidad del modelo. 

Una realidad que no comprenden

Los LLM utilizan la estadística lingüística para producir respuestas sobre una realidad que en realidad no comprenden. Sus respuestas pueden parecer correctas (con ejemplos gramaticales, semánticos, etc.) pero a veces pueden ser un completo disparate. Una IA mal entrenada tendrá sesgos y puntos ciegos inherentes, lo que significa que intentará rellenar los espacios en blanco para responder a tu pregunta. Sin embargo, los "espacios en blanco" que se le ocurran pueden ser de otro mundo. 

Algunas personas tienen (más bien románticamente) comparó las alucinaciones de la IA con nuestros sueños humanos, en el sentido de que fusionan creativamente datos aparentemente aleatorios, sin base en la lógica. Estas respuestas extravagantes pueden tener sus ventajas. Pueden servir para inspirar el pensamiento creativo o como punto de partida para la escritura, la música o el arte. Pero también pueden ser perjudiciales. Pueden hacer proliferar noticias falsas y difundir información falsa, lo que obviamente puede tener consecuencias peligrosas. No querrás arriesgarte a tener alucinaciones con la IA cuando se trate de coches autoconducidos o diagnósticos médicos. 

En un intento por salvar la reputación de la IA ante el público, los científicos libran una guerra contra las alucinaciones con métodos ideados para combatirlas. 

Cómo formular mejores preguntas da mejores respuestas

Uno de estos métodos es la "ingeniería de preguntas". Esto nos obliga a nosotros, los usuarios, a pensar detenidamente en cómo formulamos las preguntas que hacemos a los estudiantes. Se trata de preguntar a los derecha pregunta. Un prompt es básicamente el contexto y el conjunto de instrucciones que das a un LLM, como ChatGPT, para obtener una respuesta adecuada. Para que una pregunta tenga éxito, hay que incluir un contexto y una perspectiva claros sobre lo que se está preguntando, dar un "papel" al generador de IA e incluso esbozar cómo quieres que se estructure la respuesta. 

No se trata sólo de introducir algunas palabras clave en Google. Para obtener los mejores y más precisos resultados, a veces pueden ser necesarias varias indicaciones. Básicamente, hay que tener un control total de la entrada para guiar la salida, que es una forma de trabajar con el sistema existente sin cambiar intrínsecamente su programación. Cuanto mayor sea la calidad de la señal que introduzca, mayor será la calidad de la respuesta que obtenga. 

Cómo se relaciona la "ingeniería promt" con los viajes psicodélicos

"¡Cosas fascinantes!" - se podría decir - "¡¿Pero qué tiene esto que ver con los psicodélicos?!" Bueno, para ser sinceros, no mucho, aparte de la invocación de 'alucinaciones. Pero los métodos con los que se pueden inhibir las alucinaciones de la IA nos han hecho pensar en cómo influimos en nuestras propias alucinaciones intencionadas, es decir, en los viajes psicodélicos. 

En muchos sentidos, esta idea de adaptar la entrada para garantizar un buen resultado es paralela a la de establecimiento de intencionesy el resto del trabajo que hacemos para prepárate para un viaje psicodélico con dosis más altas. Sin embargo, en lugar de hacerlo para evitar respuestas "erróneas (algunos dirán que no hay respuestas equivocadas en un viaje psicodélico). lo hacemos para obtener la experiencia más profunda y generativa que podamos. Establecer tu intención es, en cierto modo, la "pregunta". 'Set y ajuste' es como el contexto. 

Aunque, a diferencia de la IA, nuestras alucinaciones, sueños y vagabundeos mentales suelen ser algo positivo, cultivar un nivel de concentración para un viaje puede ayudarte a sacarle el máximo partido. Asegúrate de sentirte bien mentalmente y de estar en un entorno seguro y cómodo. Plantea tus preguntas, intenciones e ideas para un viaje. universo amableen lugar de Google scrape. 

Visiones de nuestro yo interior

Alucinar es algo muy humano: manifestar visiones de nuestros deseos internos, miedos, maravillas o incluso del vídeo tonto que viste en Youtube la semana pasada. Todo lo que llevamos dentro influye en lo que vemos y experimentamos cuando viajamos. Entrada, salida. Así que, aunque las alucinaciones de IA no están en la misma liga, ni siquiera en la misma llanura... (al menos, ¡todavía no!) es posible inspirarse en la forma en que los abordamos, en lo que respecta a nuestras propias incursiones en inteligencia psicodélica.