Izletni roboti? Kaj so halucinacije umetne inteligence?

V svojem kultnem romanu Blade Runner Ali Androidi sanjajo o električnih ovcah, je avtor Philip K. Dick razmišljal o etičnih in filozofskih vprašanjih, ki se pojavijo, ko umetna bitja razvijejo človeku podobno zavest. Roman raziskuje, ali je umetna oseba sposobna prevzeti značilnosti čutenja, kot so samozavedanje, čustvovanje in sposobnost zaznavanja. Kaj bi to pomenilo za meje med človeško in umetno inteligenco?

Dostop do umetne inteligence brez primere

Tu seveda nastopijo halucinacije umetne inteligence. Z nedavnim navalom velikih jezikovnih modelov (magistrski študij na visoki ravni) kot je ChatGPT, smo se soočili z umetno inteligenco na način, ki doslej ni bil mogoč. Prednosti in slabosti so številne in kontroverzne. Vendar je ena od najbolj fascinantnih/nevarnih/strašljivih/zabavnih (odvisno od vašega pogleda) pri tem uvajanju tehnologije so se pojavile halucinacije o umetni inteligenci. Te "halucinacije" se pojavijo, ko upravljalci trga dela predstavijo napačne, zavajajoče ali nerazumne informacije, kot da so dejstva. Številni uporabniki so ugotovili, da so bili odgovori na njihova vprašanja, ki so jih posredovali ti sistemi, očitno napačni. Zdi se, da se to na splošno zgodi, kadar sistem LLM ne dobi dovolj kakovostnih podatkov ali dovolj konteksta, na podlagi katerega bi lahko delal. 

Ali lahko stroj halucinira?

Izraz "halucinacije", ki je bil izbran za to napako, je zanimiv. Sprva se zdi paradoksalen, saj halucinacije običajno povezujemo s človeškimi ali živalskimi možgani in ne s hladnimi, trdnimi stroji. Vendar pa je z metaforičnega vidika, halucinacije se izkaže za precej natančen izraz za opis teh napak, predvsem v primerih prepoznavanja slik in vzorcev. 

Veste, kako vidite figure v oblakih ali obraze v neživih predmetih? To je zelo naraven človeški pojav, imenovan pareidolija. Vendar bi lahko halucinacije umetne inteligence opisali kot podobne, saj v množici podatkov iščejo prepoznavne vzorce. Do njihovih napačnih razlag lahko pride zaradi različnih dejavnikov, vključno s pristranskostjo/nenatančnostjo podatkov za usposabljanje, pretiranim prilagajanjem in veliko zapletenostjo modela. 

Realnost, ki je ne razumejo

Mentorji na tem področju uporabljajo jezikovno statistiko za pripravo odgovorov o resničnosti, ki je pravzaprav ne razumejo. Njihovi odgovori se lahko zdijo pravilni (z zgledno slovnico, semantiko itd.) včasih pa so lahko popolna neumnost. Slabo usposobljena umetna inteligenca ima prirojene pristranskosti in slepe pege, kar pomeni, da bo poskušala zapolniti prazne prostore, da bi odgovorila na vaše vprašanje. Vendar pa so lahko "prazne točke", ki jih bo našla, precej izstopajoče iz tega sveta. 

Nekateri ljudje imajo (precej romantično) je halucinacije umetne inteligence primerjal z našimi človeškimi sanjami, saj ustvarjalno združujejo na videz naključne podatke brez logične podlage. Ti čudaški odzivi imajo lahko svoje prednosti. Uporabimo jih lahko za navdihovanje "out of the box" razmišljanja ali kot izhodišča za pisanje, glasbo ali umetnost. Lahko pa so tudi škodljivi. Z njimi se lahko širijo lažne novice in napačne informacije, kar ima seveda lahko nevarne posledice. Ne želite tvegati halucinacij umetne inteligence, ko gre za samovozeče avtomobile ali medicinske diagnoze! 

Znanstveniki se borijo proti halucinacijam z metodami, razvitimi za boj proti njim, da bi rešili ugled umetne inteligence v javnosti. 

Kako z boljšim postavljanjem vprašanj dobite boljše odgovore

Ena od teh metod je "Promptni inženiring". Ta nam, uporabnikom, nalaga odgovornost, da dobro premislimo, kako oblikujemo vprašanja, ki jih zastavljamo udeležencem programa LLM. Gre za to, da vprašamo desno vprašanje. Poziv je v bistvu kontekst in niz navodil, ki jih daš študentu vseživljenjskega učenja, kot je ChatGPT, da bi dobil ustrezen odgovor. Uspešna spodbuda vključuje jasen kontekst in pogled na to, kaj sprašujete, dodelitev "vloge" generatorju umetne inteligence in celo opis, kako želite, da je odgovor strukturiran. 

Ne gre le za to, da v Google vnesete nekaj ključnih besed. Za najboljši in najnatančnejši rezultat je včasih potrebnih več pozivov. Načeloma morate v celoti nadzorovati svoj vnos, da lahko usmerjate svoj rezultat, kar je način delo z obstoječim sistemom ne da bi pri tem bistveno spremenili njegovo programiranje. Bolj kakovosten kot je vaš poziv, bolj kakovosten bo odziv, ki ga boste dobili. 

Kako se "Promt Engineering" nanaša na psihedelično izletništvo

"Fascinantno!" - bi lahko rekli - "Toda kaj ima to opraviti s psihedeliki?!" No, če smo iskreni, ne obremenitve, razen sklicevanja nahalucinacije. Toda metode, s katerimi lahko zavremo halucinacije umetne inteligence, so nas spodbudile k razmišljanju o tem, kako vplivamo na svoje lastne, namenske halucinacije - tj. psihedelična potovanja. 

Ta zamisel o prilagajanju vhodnih podatkov za zagotovitev dobrega rezultata je v marsičem podobna zamisli o prilagajanju vhodnih podatkov za zagotovitev dobrega rezultata. določanje namerein drugo delo, ki ga opravljamo za se pripravite na psihedelično potovanje z večjim odmerkom. Vendar pa to ne počnemo zato, da bi se izognili "napačnim" odgovorom. (nekateri lahko rečejo, da na psihedeličnem potovanju ni napačnih odgovorov!) to počnemo zato, da bi pridobili najglobljo in najbolj generativno izkušnjo, ki jo lahko pridobimo. Določanje namere je na neki način "vprašanje". 'Nastavitev in nastavitev' je kot kontekst. 

Čeprav so naše halucinacije, sanje in blodenje v mislih v nasprotju z umetno inteligenco navadno pozitivne, lahko z gojenjem stopnje osredotočenosti na potovanje dosežemo največ, kar lahko od njega dobimo. Prepričajte se, da se psihično dobro počutite ter da ste v varnem in udobnem okolju. oblikujte svoja vprašanja/načrte/misli za prijazno vesoljein ne izbrskano v Googlu. 

Vizije našega notranjega jaza

Halucinacije so zelo človeška lastnost - pojavljajo se vizije naših notranjih želja, strahov, čudes ali celo neumnega videoposnetka, ki ste ga prejšnji teden gledali na YouTubu. Vse v nas vpliva na to, kaj vidimo in doživljamo, ko se potikamo. Vhod, izhod. Čeprav halucinacije umetne inteligence vsekakor niso v isti ligi ali celo na isti ravni (vsaj še ne!) je mogoče, da se zgledujemo po načinu, kako se jih lotevamo, glede naših lastnih pohodov v psihedelična inteligenca.