Robôs que tropeçam? O que são alucinações de IA?

No seu romance icónico e inspirador de Blade Runner Do Androids Dream of Electric Sheep, O autor Philip K. Dick reflectiu sobre as questões éticas e filosóficas que surgem quando seres artificiais desenvolvem uma consciência semelhante à humana. O romance explora a questão de saber se uma entidade criada pelo homem é capaz de assumir as caraterísticas da senciência, como a consciência de si, o sentimento de emoções e a capacidade de perceção. O que é que isso significaria para as fronteiras que existem entre a inteligência humana e a artificial?

Acesso sem precedentes à Inteligência Artificial

É aqui, evidentemente, que entram as alucinações da IA. Com o recente influxo de grandes modelos de linguagem (LLMs) como o ChatGPT, confrontámo-nos com a inteligência artificial de uma forma nunca antes possível. Os benefícios e os inconvenientes são numerosos e controversos. Mas um dos aspectos mais fascinantes/frustrantes/assustadores/engraçados (consoante a sua perspetiva) das coisas que surgiram com o lançamento desta tecnologia foram as alucinações com IA. Estas "alucinações" ocorrem quando os LLM apresentam informações falsas, enganosas ou irracionais como se fossem factos. Muitos utilizadores descobriram que as respostas às suas perguntas fornecidas por estes sistemas eram comprovadamente falsas. Isso geralmente parece acontecer quando um LLM não recebe dados de qualidade suficiente, ou contexto suficiente para trabalhar. 

Uma máquina pode ter alucinações?

O termo que foi escolhido para este bug, "alucinações", é interessante. À primeira vista, pode parecer paradoxal, uma vez que as alucinações são tradicionalmente associadas a cérebros humanos ou animais, e não a máquinas frias e duras. No entanto, de um ponto de vista metafórico, alucinação acaba por ser um termo bastante preciso para descrever estas disfunções, sobretudo em casos de reconhecimento de imagens e padrões. 

Sabe como se vêem figuras nas nuvens ou rostos em objectos inanimados? Este é um fenómeno humano muito natural chamado pareidolia. Mas as alucinações da IA podem ser descritas como semelhantes, procurando padrões reconhecíveis numa confusão de dados. As suas interpretações erradas podem dever-se a vários factores, incluindo a parcialidade/inexatidão dos dados de treino, o sobreajuste e a elevada complexidade do modelo. 

Uma realidade que não compreendem

Os LLM utilizam estatísticas linguísticas para produzir respostas sobre uma realidade que não compreendem de facto. As suas respostas podem parecer corretas (com exemplos de gramática, semântica, etc.) mas, por vezes, podem ser completamente disparatadas. Uma IA mal treinada terá preconceitos e ângulos mortos inerentes, o que significa que tentará preencher os espaços em branco no esforço de responder à sua pergunta. No entanto, os "espaços em branco" que pode encontrar podem ser bastante fora deste mundo. 

Algumas pessoas têm (de forma bastante romântica) comparou as alucinações da IA com os nossos sonhos humanos, na medida em que fundem de forma criativa dados aparentemente aleatórios, sem base lógica. Estas respostas loucas podem ter as suas vantagens. Podem ser utilizadas para inspirar um pensamento "fora da caixa" ou como pontos de partida para a escrita, a música ou a arte. No entanto, também podem ser prejudiciais. Podem proliferar notícias falsas e espalhar informações falsas, o que pode, obviamente, ter consequências perigosas. Não queremos correr o risco de alucinações de IA quando se trata de carros autónomos ou de diagnósticos médicos! 

Numa tentativa de salvar a reputação da IA junto do público, os cientistas estão a travar uma guerra contra as alucinações com métodos concebidos para as combater. 

Como fazer melhores perguntas dá-lhe melhores respostas

Um destes métodos é o "Prompt Engineering". Este método coloca o ónus em nós, os utilizadores, de pensar cuidadosamente sobre a forma como formulamos as perguntas que fazemos aos MNL. Trata-se de perguntar a correto pergunta. Uma pergunta é basicamente o contexto e o conjunto de instruções que se dá a um LLM, como o ChatGPT, para obter uma resposta adequada. Uma pergunta bem sucedida implica incluir um contexto e uma perspetiva claros sobre o que está a pedir, atribuir um "papel" ao gerador de IA e até mesmo delinear a forma como pretende que a resposta seja estruturada. 

Não se trata apenas de introduzir algumas palavras-chave no Google. Para obter os melhores e mais exactos resultados, por vezes podem ser necessárias várias solicitações. Basicamente, tem de controlar totalmente os seus dados para orientar os seus resultados, o que é uma forma de trabalhar com o sistema existente sem alterar intrinsecamente a sua programação. Quanto maior for a qualidade do estímulo que introduzir, maior será a qualidade da resposta que obterá. 

Como a "engenharia Promt" se relaciona com as viagens psicadélicas

"Coisas fascinantes!" - pode-se dizer - "Mas o que é que isto tem a ver com os psicadélicos?!" Bem, não há muita coisa para ser honesto, para além da invocação de 'alucinações. Mas os métodos com os quais se pode inibir as alucinações da IA fizeram-nos pensar na forma como influenciamos as nossas próprias alucinações propositadas - ou seja, as viagens psicadélicas. 

Em muitos aspectos, esta ideia de adaptar o input para garantir um bom output é semelhante à ideia de definição de intençõese o outro trabalho que fazemos para preparar-se para uma viagem psicadélica de dose elevada. No entanto, em vez de o fazer para evitar respostas "erradas (há quem diga que não há respostas erradas numa viagem psicadélica!) fazemo-lo para obtermos a experiência mais profunda e generativa possível. Definir a sua intenção é, de certa forma, a "pergunta". 'Conjunto e Definição' é como o contexto. 

Embora, ao contrário da IA, as nossas alucinações, sonhos e divagações da mente sejam normalmente positivos, cultivar um nível de concentração para uma viagem pode ajudá-lo a tirar o máximo partido dela. Certifique-se de que se sente bem mentalmente e que está num ambiente seguro e confortável. Enquadre as suas perguntas/intenções/ideias para uma universo bondosoem vez de um Google scrape. 

Visões do nosso eu interior

Alucinar é uma coisa muito humana - manifestar visões dos nossos desejos interiores, medos, maravilhas, ou até mesmo o vídeo parvo que viu no Youtube na semana passada. Tudo dentro de nós influencia o que vemos e experimentamos quando viajamos. Entrada, resultado. Assim, embora as alucinações da IA não estejam definitivamente no mesmo campeonato, ou mesmo no mesmo plano (pelo menos, ainda não!) é possível inspirarmo-nos na forma como os abordamos, no que diz respeito às nossas próprias incursões no inteligência psicadélica.