Trippivad robotid? Mis on AI hallutsinatsioonid?

Tema ikoonilises, Blade Runner'i inspireerivas romaanis Kas androidid unistavad elektrilistest lammastest, autor Philip K. Dick mõtiskles eetiliste ja filosoofiliste küsimuste üle, mis tekivad, kui tehisolendid arendavad inimesele sarnast teadvust. Romaanis uuritakse, kas inimese loodud olend on võimeline omandama tundlikkuse tunnuseid, näiteks eneseteadvust, tunnetusi ja tajumisvõimet. Mida see tähendaks inimese ja tehisintellekti vaheliste piiride jaoks?

Enneolematu juurdepääs tehisintellektile

See on muidugi koht, kus AI hallutsinatsioonid tulevad mängu. Suurte keelemudelite hiljutise sissevooluga (LLM) nagu ChatGPT, oleme jõudnud tehisintellektiga kokku puutuda viisil, mis pole kunagi varem olnud võimalik. Kasud ja puudused on nii arvukad kui ka vastuolulised. Kuid üks põnevamatest/täiesti hirmutavamatest/hirmutavamatest/naljakamatest (sõltuvalt teie väljavaadetest) asjad, mis selle tehnoloogia kasutuselevõtu käigus välja on tulnud, on AI hallutsinatsioonid. Need "hallutsinatsioonid" on siis, kui elukestva õppejõud esitavad vale, eksitavat või irratsionaalset teavet, nagu oleks see fakt. Paljud kasutajad on leidnud, et nende süsteemide esitatud vastused nende küsimustele on ilmselgelt valed. See näib üldiselt juhtuvat siis, kui elukestva õppe süsteemile ei anta piisavalt kvaliteetseid andmeid või piisavalt konteksti, millest lähtuda. 

Kas masin võib hallutsineerida?

Selle vea jaoks valitud termin "hallutsinatsioonid" on huvitav. Esmalt võib see tunduda paradoksaalne, sest hallutsinatsioonid on traditsiooniliselt seotud inimeste või loomade ajudega, mitte külmade, kõvade masinatega. Kuid metafoorilisest vaatenurgast vaadatuna, hallutsinatsioon osutub üsna täpseks terminiks, millega neid tõrkeid kirjeldada, eelkõige pildi- ja mustrituvastuse puhul. 

Te teate, kuidas te näete tegelasi pilvedes või nägusid elututes esemetes? See on väga loomulik inimnähtus, mida nimetatakse pareidoolia. Kuid tehisintellekti hallutsinatsioone võiks kirjeldada sarnaselt, otsides äratuntavaid mustreid andmete segaduses. Nende valesti tõlgendamine võib toimuda erinevate tegurite tõttu, sealhulgas treeninguandmete kallutatuse/ebatäpsuse, liigse sobitamise ja mudeli suure keerukuse tõttu. 

Reaalsus, mida nad ei mõista

LLMid kasutavad keelelist statistikat, et toota vastuseid reaalsuse kohta, mida nad tegelikult ei mõista. Nende vastused võivad tunduda õiged (koos eeskujuliku grammatika, semantika jne.) kuid mõnikord võivad need olla täielik jama. Halvasti koolitatud tehisintellektil on loomupärased eelarvamused ja pimedad kohad - see tähendab, et ta püüab teie küsimusele vastamiseks täita lünki. Siiski võivad need "tühikud", mida ta võib välja pakkuda, olla üsna ulmelised. 

Mõned inimesed on (pigem romantiliselt) võrdlesid tehisintellekti hallutsinatsioone meie inimeste unenägudega, kuna need ühendavad loominguliselt näiliselt juhuslikke andmeid, ilma et neil oleks loogilist alust. Nendel hullumeelsetel reaktsioonidel võib olla oma kasu. Neid võib kasutada "out of the box" mõtlemise inspireerimiseks või kirjutamise, muusika või kunsti lähtepunktina. Kuid need võivad olla ka kahjulikud. Nad võivad levitada valeuudiseid ja valeinfot, millel võivad ilmselgelt olla ohtlikud tagajärjed. Te ei taha riskida tehisintellekti hallutsinatsioonidega, kui tegemist on isesõitvate autode või meditsiiniliste diagnoosidega! 

Püüdes päästa tehisintellekti mainet avalikkuse silmis, peavad teadlased sõda hallutsinatsioonide vastu, kasutades selleks välja töötatud meetodeid. 

Kuidas paremate küsimuste esitamine annab teile paremaid vastuseid

Üks neist meetoditest on "Prompt Engineering". See paneb meile, kasutajatele, kohustuse mõelda hoolikalt selle üle, kuidas me sõnastame küsimused, mida me elukestva õppe läbiviijatele esitame. See tähendab, et küsime õigus küsimus. Ülesanne on põhimõtteliselt kontekst ja juhiste kogum, mida te annate LLMile, näiteks ChatGPT-le, et saada asjakohane vastus. Edukas üleskutse hõlmab selget konteksti ja perspektiivi selle kohta, mida te küsite, annab tehisintellekti generaatorile "rolli" ja isegi kirjeldab, kuidas te soovite, et vastus oleks struktureeritud. 

See ei ole lihtsalt mõne märksõna Google'ile sisse löömine. Parima ja täpseima tulemuse saamiseks võib mõnikord olla vajalik mitu päringut. Põhimõtteliselt peate täielikult kontrollima oma sisendit, et suunata oma väljundit, mis on viis, kuidas töö olemasoleva süsteemiga ilma oma programmeerimist olemuslikult muutmata. Mida kvaliteetsem on sisestatud üleskutse, seda kvaliteetsema vastuse saate välja. 

Kuidas "Promt Engineering" on seotud psühhedeelse trippimisega

"Põnev kraam!" - võite öelda - "Aga mis on sellel pistmist psühhedeelikumidega?!" Noh, ausalt öeldes mitte palju, kui välja arvatahallutsinatsioonid. Kuid meetodid, millega saab AI hallutsinatsioone pärssida, on pannud meid mõtlema sellele, kuidas me ise omaenda sihipäraseid hallutsinatsioone - st psühhedeelseid trippe - mõjutame. 

Paljudel juhtudel on see idee sisendi kohandamisest, et tagada hea väljund, paralleelne sellega, et kavatsuse seadmineja muud tööd, mida me teeme, et valmistuda suuremate annuste psühhedeelseks reisiks. Kuid selle asemel, et vältida "valesid" vastuseid. (mõned võivad öelda, et psühhedeelsel reisil ei ole valesid vastuseid!) me teeme seda selleks, et saada võimalikult sügav ja genereeriv kogemus. Oma kavatsuse seadmine on mõnes mõttes "küsimus". 'Komplekt ja seadistus' on nagu kontekst. 

Kuigi erinevalt AI-st on meie hallutsinatsioonid, unenäod ja mõttekäigud tavaliselt positiivne asi, aitab reisile keskendumise taseme kasvatamine aidata teil sellest kõige rohkem kasu saada. Veenduge, et tunnete end vaimselt hästi ning olete turvalises ja mugavas keskkonnas. Sõnastage oma küsimused/taotlused/ideed, mis on mõeldud lahke universum, mitte Google'i kraapimine. 

Visioonid meie sisemusest

Hallutsinatsioon on väga inimlik asi - manifesteerida nägemusi oma sisemistest soovidest, hirmudest, imedest või isegi sellest rumalast videost, mida sa eelmisel nädalal Youtube'is vaatasid. Kõik meie sees mõjutab seda, mida me reisides näeme ja kogeme. Sisend, väljund. Nii et kuigi AI hallutsinatsioonid ei ole kindlasti samas liigas või isegi samal tasandil (vähemalt mitte veel!) on võimalik saada inspiratsiooni sellest, kuidas me neile läheneme, mis puudutab meie enda ekskursioonidesse psühhedeelne intelligentsus.