Kompastuvat robotit? Mitä ovat tekoälyn hallusinaatiot?

Hänen ikonisessa, Blade Runneria inspiroivassa romaanissaan Uneksivatko Androidit sähkölampaista, kirjailija Philip K. Dick pohdiskeli eettisiä ja filosofisia kysymyksiä, joita syntyy, kun keinotekoiset olennot kehittävät ihmisen kaltaisen tietoisuuden. Romaanissa tutkitaan, pystyykö ihmisen luoma olento omaksumaan tuntemuksen piirteitä, kuten itsetuntemuksen, tunteiden tuntemisen ja havaintokyvyn. Mitä tämä merkitsisi ihmisen ja tekoälyn välisille rajoille?

Ennennäkemätön pääsy tekoälyyn

Tässä kohtaa tekoälyn hallusinaatiot tulevat tietenkin kuvaan. Kun viime aikoina on tullut suuri määrä suuria kielimalleja. (LLM) kuten ChatGPT, olemme kohdanneet tekoälyn tavalla, joka ei ole koskaan ennen ollut mahdollista. Hyötyjä ja haittoja on sekä lukuisia että kiistanalaisia. Mutta yksi kiehtovimmista/rauhoittavimmista/pelottavimmista/hauskemmasta (riippuen näkökulmasta) tämän teknologian käyttöönoton yhteydessä on ollut tekoälyharhoja. Näissä "hallusinaatioissa" LLM:t esittävät väärää, harhaanjohtavaa tai irrationaalista tietoa ikään kuin se olisi tosiasia. Monet käyttäjät ovat havainneet, että näiden järjestelmien antamat vastaukset heidän kysymyksiinsä ovat olleet todistetusti vääriä. Näin näyttää yleensä tapahtuvan silloin, kun LLM:lle ei anneta riittävän laadukkaita tietoja tai riittävästi kontekstia, jonka pohjalta se voi työskennellä. 

Voiko kone hallusinoida?

Tälle vikalle valittu termi "hallusinaatiot" on mielenkiintoinen. Aluksi se saattaa vaikuttaa paradoksaaliselta, koska hallusinaatiot liitetään perinteisesti ihmisten tai eläinten aivoihin, ei kylmiin, koviin koneisiin. Vertauskuvallisesta näkökulmasta katsottuna, hallusinaatio osoittautuu melko tarkaksi termiksi kuvaamaan näitä toimintahäiriöitä, erityisesti kuvien ja kuvioiden tunnistamisen yhteydessä. 

Tiedättehän, miten näette hahmoja pilvissä tai kasvoja elottomissa esineissä? Tämä on hyvin luonnollinen inhimillinen ilmiö nimeltä pareidolia. Tekoälyn hallusinaatioita voisi kuitenkin kuvata samanlaisiksi, sillä niissä etsitään tunnistettavia kuvioita tietomassasta. Niiden virhetulkinnat voivat johtua useista eri tekijöistä, kuten harjoitteludatan harhaisuudesta/epätarkkuudesta, liiallisesta sovittamisesta ja mallin suuresta monimutkaisuudesta. 

Todellisuus, jota he eivät ymmärrä

LLM:t käyttävät kielellisiä tilastoja tuottaakseen vastauksia todellisuudesta, jota he eivät todellisuudessa ymmärrä. Heidän vastauksensa voivat vaikuttaa oikeilta (esimerkkikielioppi, semantiikka jne.). mutta joskus ne voivat olla täyttä hölynpölyä. Huonosti koulutetulla tekoälyllä on luonnostaan ennakkoluuloja ja sokeita pisteitä - eli se yrittää täyttää aukkoja yrittäessään vastata kysymykseesi. Aihiot, joita se voi kuitenkin keksiä, voivat olla melkoisen outoja. 

Joillakin ihmisillä on (melko romanttisesti) vertasi tekoälyn hallusinaatioita ihmisen uniin, sillä ne yhdistävät luovasti näennäisesti satunnaisia tietoja ilman loogista perustaa. Näistä hassuista reaktioista voi olla hyötyä. Niitä voidaan käyttää inspiroimaan ajattelua "out of the box" -ajatteluun tai lähtökohtana kirjoittamiselle, musiikille tai taiteelle. Ne voivat kuitenkin olla myös haitallisia. Ne voivat levittää valeuutisia ja väärää tietoa, millä voi luonnollisesti olla vaarallisia seurauksia. Tekoälyn hallusinaatioita ei kannata riskeerata, kun kyse on itseajavista autoista tai lääketieteellisistä diagnooseista! 

Tutkijat yrittävät pelastaa tekoälyn maineen yleisön silmissä ja käyvät sotaa hallusinaatioita vastaan niiden torjumiseksi kehitetyillä menetelmillä. 

Miten paremmilla kysymyksillä saat parempia vastauksia?

Yksi näistä menetelmistä on "Prompt Engineering". Tämä asettaa meille, käyttäjille, velvollisuuden miettiä tarkkaan, miten muotoilemme kysymykset, joita esitämme LLM:lle. Kyse on siitä, että kysytään oikea kysymys. Kehote on periaatteessa asiayhteys ja ohjeiden sarja, jonka annat LLM:lle, kuten ChatGPT:lle, saadaksesi sopivan vastauksen. Onnistuneeseen kehotukseen sisältyy selkeä asiayhteys ja näkökulma siihen, mitä kysyt, tekoälygeneraattorille annetaan "rooli" ja jopa hahmotellaan, miten haluat vastauksen rakentuvan. 

Kyse ei ole vain hakusanojen syöttämisestä Googleen. Parhaan ja tarkimman tuloksen saamiseksi voi joskus olla tarpeen käyttää useita kehotuksia. Periaatteessa sinun on hallittava täysin syötteesi, jotta voit ohjata tulostasi, mikä on tapa, jolla työskentely nykyisen järjestelmän kanssa ilman, että sen ohjelmointi muuttuu olennaisesti. Mitä laadukkaamman kehotuksen annat, sitä laadukkaamman vastauksen saat. 

Miten 'Promt Engineering' liittyy psykedeeliseen trippaamiseen?

"Kiehtovia juttuja!" - voisi sanoa - "Mutta mitä tekemistä tällä on psykedeelien kanssa?!" Rehellisesti sanottuna ei paljon, lukuun ottamatta vetoamista sanaan 'hallusinaatiot'. Menetelmät, joilla tekoälyn hallusinaatioita voidaan estää, ovat kuitenkin saaneet meidät miettimään, miten voimme vaikuttaa omiin, tarkoituksellisiin hallusinaatioihimme - eli psykedeelisiin matkoihin. 

Tämä ajatus syötteen räätälöinnistä hyvän tuotoksen varmistamiseksi on monella tapaa rinnakkainen seuraavien ajatusten kanssa. aikomusten asettaminenja muu työ, jota teemme valmistaudu suurempaan psykedeeliseen tripiin.. Sen sijaan, että se tehtäisiin "väärien" vastausten välttämiseksi... (Jotkut saattavat sanoa, että psykedeelisellä matkalla ei ole vääriä vastauksia!) teemme sen saadaksemme mahdollisimman syvällisen ja synnyttävän kokemuksen. Aikomuksen asettaminen on tavallaan "kysymys". 'Aseta ja aseta' on kuin asiayhteys. 

Toisin kuin tekoäly, hallusinaatiot, unet ja mielen harhailu ovat yleensä positiivisia asioita, mutta keskittyminen matkan aikana voi auttaa sinua saamaan siitä kaiken irti. Varmista, että voit henkisesti hyvin ja että olet turvallisessa ja mukavassa ympäristössä. Laadi kysymyksesi, aikomuksesi ja ideasi matkalle. kiltti maailmankaikkeus, eikä Googlen kaapimalla. 

Visiot sisäisestä itsestämme

Hallusinaatio on hyvin inhimillinen asia - näkyjä sisäisistä toiveistamme, peloistamme, ihmeistämme tai jopa siitä typerästä videosta, jonka katsoit Youtubesta viime viikolla. Kaikki meissä vaikuttaa siihen, mitä näemme ja koemme matkustaessamme. Tulo, lähtö. Joten vaikka tekoälyn hallusinaatiot eivät todellakaan ole samassa sarjassa tai edes samalla tasolla - (ainakaan vielä!) on mahdollista ottaa vaikutteita tavasta, jolla me lähestymme niitä, kun on kyse omasta pyrähdyksestämme kohti psykedeelinen älykkyys.