Roboti, kas brauc pa ceļam? Kas ir mākslīgā intelekta halucinācijas?

Viņa ikoniskajā, Blade Runner iedvesmojošajā romānā Vai Androids sapņo par elektriskajām aitām, rakstnieks Filips K. Diks (Philip K. Dick) domāja par ētiskajiem un filozofiskajiem jautājumiem, kas rodas, kad mākslīgām būtnēm attīstās cilvēkam līdzīga apziņa. Romānā tiek pētīts, vai cilvēka radīta būtne spēj uzņemt sev raksturīgās īpašības, piemēram, pašapziņu, emociju izjūtu un uztveres spēju. Ko tas nozīmētu attiecībā uz robežām, kas pastāv starp cilvēka un mākslīgo intelektu?

Līdz šim nebijusi piekļuve mākslīgajam intelektam

Šeit, protams, iestājas mākslīgā intelekta halucinācijas. Ar neseno lielo valodas modeļu pieplūdumu (LLM) piemēram, ChatGPT, mēs esam saskārušies ar mākslīgo intelektu tā, kā tas līdz šim nebija iespējams. Ieguvumi un trūkumi ir gan daudzi, gan pretrunīgi. Taču viens no fascinējošākiem/vairāk mulsinošiem/biedējošiem/smieklīgākajiem (atkarībā no jūsu perspektīvas) no šīs tehnoloģiju ieviešanas ir radušās mākslīgā intelekta halucinācijas. Šādas "halucinācijas" ir tad, kad LLM sniedz nepatiesu, maldinošu vai iracionālu informāciju, it kā tā būtu fakts. Daudzi lietotāji ir konstatējuši, ka šo sistēmu sniegtās atbildes uz viņu jautājumiem ir acīmredzami nepatiesas. Tas parasti notiek, ja LLM netiek sniegti pietiekami kvalitatīvi dati vai nepietiekams konteksts, lai ar tiem strādātu. 

Vai mašīna var halucinēt?

Šai kļūdai izvēlētais termins "halucinācijas" ir interesants. Sākumā tas var šķist paradoksāls, jo halucinācijas tradicionāli tiek saistītas ar cilvēka vai dzīvnieka smadzenēm, nevis ar aukstu, cietu mehānismu. Tomēr, raugoties no metaforiskā viedokļa, halucinācijas izrādās, ir diezgan precīzs termins, ar ko aprakstīt šīs darbības traucējumus, jo īpaši attēlu un rakstu atpazīšanas gadījumos. 

Ziniet, kā jūs redzat skaitļus mākoņos vai sejas nedzīvos objektos? Tā ir ļoti dabiska cilvēka parādība, ko sauc par pareidolija. Taču mākslīgā intelekta halucinācijas varētu raksturot kā līdzīgas, meklējot atpazīstamus modeļus datu juceklī. To kļūdaina interpretācija var notikt dažādu faktoru dēļ, tostarp mācību datu neobjektivitātes/neprecizitātes, pārlieku lielas pielāgošanas un lielas modeļa sarežģītības dēļ. 

Realitāte, ko viņi nesaprot

LLM izmanto lingvistisko statistiku, lai sniegtu atbildes par realitāti, kuru viņi patiesībā nesaprot. Viņu atbildes var šķist pareizas (ar gramatikas, semantikas u. c. piemēriem). bet dažreiz tās var būt pilnīgas muļķības. Slikti apmācītam mākslīgajam intelektam būs raksturīgi aizspriedumi un aklie punkti, kas nozīmē, ka tas mēģinās aizpildīt tukšās vietas, lai atbildētu uz jūsu jautājumu. Tomēr "tukšās vietas", ko tas var atrast, var būt diezgan ne no šīs pasaules. 

Dažiem cilvēkiem ir (diezgan romantiski) salīdzināja mākslīgā intelekta halucinācijas ar mūsu cilvēku sapņiem, jo tajos radoši saplūst šķietami nejauši dati bez loģiska pamatojuma. Šādām trakulīgām reakcijām var būt savas priekšrocības. Tās var izmantot, lai iedvesmotu "nestandarta" domāšanu vai kā sākumpunktu rakstīšanai, mūzikai vai mākslai. Tomēr tās var būt arī kaitīgas. Tās var izplatīt viltus ziņas un izplatīt nepatiesu informāciju, kam, protams, var būt bīstamas sekas. Jūs taču nevēlaties riskēt ar mākslīgā intelekta halucinācijām, kad runa ir par pašbraucošām automašīnām vai medicīniskām diagnozēm! 

Cenšoties glābt mākslīgā intelekta reputāciju sabiedrībā, zinātnieki cīnās pret halucinācijām, izmantojot metodes, kas izstrādātas to apkarošanai. 

Kā uzdodot labākus jautājumus, jūs saņemat labākas atbildes

Viena no šīm metodēm ir "Prompt Engineering". Tas liek mums, lietotājiem, rūpīgi pārdomāt, kā mēs formulējam jautājumus, ko uzdodam LLM. Tas nozīmē uzdot pa labi jautājums. Uzvedums būtībā ir konteksts un norādījumu kopums, ko jūs sniedzat LLM, piemēram, ChatGPT, lai saņemtu atbilstošu atbildi. Veiksmīga pamudinājuma izveidē ir jāiekļauj skaidrs konteksts un perspektīva par to, ko jūs jautājat, jāpiešķir mākslīgā intelekta ģeneratoram "loma" un pat jānorāda, kā vēlaties, lai atbilde būtu strukturēta. 

Tas nav tikai dažu atslēgvārdu ievadīšana Google. Lai iegūtu vislabāko un precīzāko rezultātu, dažkārt var būt nepieciešami vairāki ieteikumi. Būtībā jums ir pilnībā jākontrolē savi ievades dati, lai vadītu savu rezultātu, kas ir veids, kā darbs ar esošo sistēmu būtiski nemainot tā programmu. Jo kvalitatīvāku izsaukumu ievadīsiet, jo kvalitatīvāku atbildi saņemsiet. 

Kā "Promt Engineering" ir saistīts ar psihodēlisko ceļošanu

"Aizraujoši!" - jūs varētu teikt - "Bet kāds tam sakars ar psihedēliskiem līdzekļiem?!" Godīgi sakot, ne kravas, izņemot atsaukšanos uzhalucinācijas".. Taču metodes, ar kurām var kavēt mākslīgā intelekta halucinācijas, ir likušas mums aizdomāties par to, kā mēs paši ietekmējam savas mērķtiecīgās halucinācijas - t.i., psihedēliskos ceļojumus. 

Daudzējādā ziņā šī ideja par ievades pielāgošanu, lai nodrošinātu labu rezultātu, ir līdzīga ar ideju par nodomu noteikšana, kā arī pārējo mūsu darbu, ko veicam, lai sagatavoties lielākām psihedēlisko vielu devām.. Tomēr tā vietā, lai izvairītos no "nepareizām" atbildēm. (daži varētu teikt, ka psihodēliskā ceļojumā nav nepareizu atbilžu!) mēs to darām, lai gūtu pēc iespējas dziļāku un radošāku pieredzi. Nodoma noteikšana savā ziņā ir "jautājums". 'Komplektēšana un iestatīšana' ir kā konteksts. 

Lai gan atšķirībā no mākslīgā intelekta mūsu halucinācijas, sapņi un prāta klejojumi parasti ir pozitīva parādība, koncentrēšanās uz ceļojumu var palīdzēt gūt no tā maksimālu labumu. Pārliecinieties, ka garīgi jūtaties labi un atrodaties drošā un ērtā vidē. Izstrādājiet savus jautājumus/ nodomus/ idejas par laipns visums, nevis no Google. 

Mūsu iekšējā "es" vīzijas

Halucinācijas ir ļoti cilvēciska lieta - izpausties kā vīzijas par mūsu iekšējām vēlmēm, bailēm, brīnumiem vai pat muļķīgu video, ko pagājušajā nedēļā skatījāties Youtube. Viss, kas ir mūsos, ietekmē to, ko mēs redzam un piedzīvojam, kad ceļojam. Ieeja, izejas. Tātad, lai gan mākslīgā intelekta halucinācijas noteikti nav vienā līgā vai pat tajā pašā līdzenumā. (vismaz pagaidām vēl ne!) ir iespējams iedvesmoties no mūsu pieejas tiem, lai mēs paši varētu iedziļināties psihedēliskais intelekts.