Triukų robotai? Kas yra dirbtinio intelekto haliucinacijos?

Savo kultiniame, "Blade Runner" įkvepiančiame romane Ar androidai svajoja apie elektrines avis, rašytojas Philipas K. Dickas svarstė etinius ir filosofinius klausimus, kurie kyla, kai dirbtinės būtybės išvysto į žmogų panašią sąmonę. Romane nagrinėjama, ar žmogaus sukurta būtybė gali įgyti jausmų bruožų, tokių kaip savimonė, emocijos ir gebėjimas suvokti. Ką tai reikštų riboms, egzistuojančioms tarp žmogaus ir dirbtinio intelekto?

Beprecedentė prieiga prie dirbtinio intelekto

Čia, žinoma, pasireiškia dirbtinio intelekto haliucinacijos. Pastaruoju metu plūstelėjus didžiųjų kalbos modelių (LLM) pavyzdžiui, "ChatGPT", susidūrėme su dirbtiniu intelektu taip, kaip niekada anksčiau nebuvo įmanoma. Naudos ir trūkumų yra ir daug, ir prieštaringų. Tačiau vienas iš labiausiai žavinčių, keliančių nerimą, gąsdinančių ir juokingų (priklausomai nuo jūsų požiūrio) šios technologijos diegimo rezultatas - dirbtinio intelekto haliucinacijos. Šios "haliucinacijos" pasireiškia tuo, kad intelektinio intelekto valdytojai pateikia klaidingą, klaidinančią ar iracionalią informaciją, tarsi ji būtų faktas. Daugelis naudotojų pastebėjo, kad šių sistemų pateikti atsakymai į jų klausimus yra akivaizdžiai melagingi. Paprastai taip atsitinka, kai LLM nepateikiama pakankamai kokybiškų duomenų arba nepakankamai konteksto, kuriuo būtų galima remtis. 

Ar mašina gali turėti haliucinacijų?

Šiai klaidai apibūdinti pasirinktas įdomus terminas "haliucinacijos". Iš pradžių jis gali pasirodyti paradoksalus, nes haliucinacijos tradiciškai siejamos su žmogaus ar gyvūno smegenimis, o ne su šalta, kieta technika. Tačiau žvelgiant metaforiškai, haliucinacijos pasirodo, kad tai gana tikslus terminas, kuriuo galima apibūdinti šiuos sutrikimus, ypač vaizdų ir modelių atpažinimo atvejais. 

Žinote, kaip matote figūras debesyse arba veidus negyvuose daiktuose? Tai labai natūralus žmogaus reiškinys, vadinamas pareidolija. Tačiau dirbtinio intelekto haliucinacijas galima apibūdinti kaip panašias, kai duomenų painiavoje ieškoma atpažįstamų modelių. Jų klaidingos interpretacijos gali atsirasti dėl įvairių veiksnių, įskaitant mokymo duomenų šališkumą / netikslumą, perteklinį pritaikymą ir didelį modelio sudėtingumą. 

Realybė, kurios jie nesupranta

LLM naudoja lingvistinę statistiką, kad parengtų atsakymus apie tikrovę, kurios iš tikrųjų nesupranta. Jų atsakymai gali atrodyti teisingi (su pavyzdine gramatika, semantika ir kt.) bet kartais jie gali būti visiška nesąmonė. Blogai apmokytam dirbtiniam intelektui būdingi šališkumas ir aklosios zonos, t. y. jis bandys užpildyti tuščias vietas, kad atsakytų į jūsų klausimą. Tačiau "tuščios vietos", kurias jis gali rasti, gali būti visai ne iš šio pasaulio. 

Kai kurie žmonės turi (gana romantiškai) palygino dirbtinio intelekto haliucinacijas su mūsų žmogiškaisiais sapnais, nes juose kūrybiškai susilieja iš pažiūros atsitiktiniai duomenys, neturintys loginio pagrindo. Tokie beprotiški atsakymai gali būti naudingi. Jie gali būti naudojami įkvėpti "nestandartiniam" mąstymui arba kaip rašymo, muzikos ar meno pradžia. Tačiau jie gali būti ir žalingi. Jie gali platinti netikras naujienas ir skleisti melagingą informaciją, o tai, žinoma, gali turėti pavojingų pasekmių. Nenorite rizikuoti, kad dirbtinio intelekto haliucinacijos bus susijusios su savaeigiais automobiliais ar medicininėmis diagnozėmis! 

Siekdami išsaugoti dirbtinio intelekto reputaciją visuomenėje, mokslininkai kovoja su haliucinacijomis, taikydami jiems įveikti sukurtus metodus. 

Kaip užduodant geresnius klausimus galima gauti geresnius atsakymus

Vienas iš šių metodų yra "skubi inžinerija". Tai reiškia, kad mes, naudotojai, turime gerai apgalvoti, kaip formuluojame klausimus, kuriuos užduodame LLM. Tai reiškia, kad reikia klausti dešinėje klausimas. Užklausa iš esmės yra kontekstas ir instrukcijų rinkinys, kurį pateikiate LLM, pvz., ChatGPT, kad gautumėte tinkamą atsakymą. Sėkmingai paraginimas apima aiškų kontekstą ir požiūrį į tai, ko klausiate, dirbtinio intelekto generatoriui suteikiamas "vaidmuo" ir netgi nurodoma, kaip norite, kad būtų struktūruotas atsakymas. 

Tai nėra tik kelių raktažodžių įvedimas į "Google". Norint gauti geriausią ir tiksliausią rezultatą, kartais gali prireikti kelių užklausų. Iš esmės turite visiškai kontroliuoti savo įvestį, kad galėtumėte vadovautis savo rezultatais, o tai yra būdas darbas su esama sistema iš esmės nekeičiant jo programavimo. Kuo kokybiškesnę užklausą įvesite, tuo kokybiškesnį atsakymą gausite. 

Kaip "Promt inžinerija" susijusi su psichodeliniu keliavimu

"Įspūdingi dalykai!" - galima sakyti - "Bet kaip tai susiję su psichodeliniais preparatais?!" Na, tiesą sakant, ne krovinių, išskyrus kreipimąsi įhaliucinacijos. Tačiau metodai, kuriais galima slopinti dirbtinio intelekto haliucinacijas, privertė mus susimąstyti, kaip galime daryti įtaką savo pačių tikslingoms haliucinacijoms, t. y. psichodelinėms kelionėms. 

Daugeliu atžvilgių ši įvesties pritaikymo idėja, kad būtų užtikrintas geras rezultatas, yra panaši į ketinimų nustatymasir kitas mūsų darbas, kurį atliekame, kad pasiruoškite didesnės dozės psichodelio kelionei.. Tačiau, užuot tai darę, kad išvengtumėte "neteisingų" atsakymų. (kai kurie gali sakyti, kad psichodelinės kelionės metu nėra neteisingų atsakymų!) mes tai darome, kad įgytume kuo gilesnę ir vaisingesnę patirtį. Tam tikra prasme savo ketinimo nustatymas yra "klausimas". 'Nustatymas ir nustatymas' yra kaip kontekstas. 

Nors, priešingai nei dirbtinis intelektas, mūsų haliucinacijos, sapnai ir minčių klaidžiojimas paprastai yra teigiamas dalykas, susitelkimo kelionės metu ugdymas gali padėti iš jos gauti kuo daugiau naudos. Įsitikinkite, kad psichologiškai jaučiatės gerai ir esate saugioje bei patogioje aplinkoje. suformuluokite savo klausimus, ketinimus ir idėjas geroji visata, o ne "Google" paieška. 

Mūsų vidinės savasties vizijos

Haliucinacijos yra labai žmogiškas dalykas - tai mūsų vidinių troškimų, baimių, stebuklų ar net kvailo vaizdo įrašo, kurį praėjusią savaitę žiūrėjote "Youtube", vizijos. Viskas, kas yra mumyse, daro įtaką tam, ką matome ir patiriame, kai keliaujame. Įvestis, išvestis. Taigi, nors dirbtinio intelekto haliucinacijos neabejotinai nėra toje pačioje lygoje ar net toje pačioje lygumoje (bent jau dar ne!) galima pasisemti įkvėpimo iš to, kaip mes į juos žiūrime, kalbant apie mūsų pačių žygius į psichodelinis intelektas.