Robotok botladozása? Mik a mesterséges intelligencia hallucinációk?

Az ikonikus, Blade Runner-ihlette regényében Do Androids Dream of Electric Sheep, Philip K. Dick író azon az etikai és filozófiai kérdéseken töprengett, amelyek akkor merülnek fel, amikor a mesterséges lények emberhez hasonló tudatot fejlesztenek ki. A regény azt vizsgálja, hogy egy ember alkotta lény képes-e felvenni az érzőképesség jellemzőit; mint például az öntudat, az érzelmek átélése és az érzékelés képessége. Mit jelentene ez az emberi és a mesterséges intelligencia közötti határokat illetően?

Példátlan hozzáférés a mesterséges intelligenciához

Itt jönnek a képzeletbeli hallucinációk. A nagy nyelvi modellek közelmúltbeli beáramlásával (LLM) mint például a ChatGPT, olyan módon kerültünk szemtől-szembe a mesterséges intelligenciával, ahogyan az korábban soha nem volt lehetséges. Az előnyök és a hátrányok egyaránt számosak és ellentmondásosak. De az egyik leglenyűgözőbb/frusztrálóbb/ijesztőbb/viccesebb (az Ön szemléletétől függően) ami ebből a technológiai bevezetésből származik, az a mesterséges intelligencia hallucináció volt. Ezek a "hallucinációk" azok, amikor az LLM-ek hamis, félrevezető vagy irracionális információkat mutatnak be, mintha azok tények lennének. Sok felhasználó úgy találta, hogy az e rendszerek által a kérdéseire adott válaszok bizonyíthatóan hamisak. Ez általában akkor fordul elő, ha az LLM nem kap elég jó minőségű adatot vagy elég kontextust, amelyből kiindulva dolgozhat. 

Hallucinálhat-e egy gép?

A hibára választott kifejezés, a "hallucinációk" érdekes kifejezés. Elsőre paradoxnak tűnhet, mivel a hallucinációkat hagyományosan az emberi vagy állati agyakkal hozzák összefüggésbe, nem pedig a hideg, kemény gépekkel. Egy metaforikus szemszögből nézve azonban, hallucináció meglehetősen pontos kifejezésnek bizonyul, amellyel ezeket a hibás működéseket lehet leírni, különösen a kép- és mintafelismerés esetében. 

Tudod, hogy látod az alakokat a felhőkben, vagy az arcokat az élettelen tárgyakban? Ez egy nagyon természetes emberi jelenség, amit úgy hívnak. pareidolia. De a mesterséges intelligencia hallucinációit is hasonlónak lehetne nevezni, felismerhető mintákat keresve az adatok kusza halmazában. Félreértelmezéseik különböző tényezők miatt történhetnek, beleértve a képzési adatok torzítását/pontatlanságát, a túlillesztést és a modell nagyfokú összetettségét. 

A valóság, amit nem értenek

Az LLM-ek nyelvi statisztikákat használnak arra, hogy válaszokat adjanak egy olyan valóságról, amelyet valójában nem is értenek. Válaszaik helyesnek tűnhetnek (példaértékű nyelvtannal, szemantikával stb.) de néha teljes képtelenségek is lehetnek. A rosszul képzett mesterséges intelligenciának eredendően elfogultságai és vakfoltjai vannak - ami azt jelenti, hogy megpróbálja kitölteni az üres helyeket, hogy válaszoljon a kérdésére. A "üres részek" azonban eléggé elrugaszkodhatnak a világtól. 

Néhány embernek (inkább romantikusan) a mesterséges intelligencia hallucinációit az emberi álmokhoz hasonlította, mivel kreatívan, látszólag véletlenszerűen, logikai alap nélkül keverik össze a látszólag véletlenszerű adatokat. Ezeknek az őrült reakcióknak megvan a maguk haszna. Használhatók a "dobozon kívüli" gondolkodás inspirálására, vagy kiindulópontként íráshoz, zenéhez vagy művészethez. Ugyanakkor károsak is lehetnek. Elterjeszthetik az álhíreket és hamis információkat terjeszthetnek, aminek nyilvánvalóan veszélyes következményei lehetnek. Ne kockáztassuk a mesterséges intelligencia hallucinációit, ha önvezető autókról vagy orvosi diagnózisokról van szó! 

A tudósok, hogy megmentsék a mesterséges intelligencia hírnevét a közvélemény előtt, a hallucinációk ellen háborút indítanak a hallucinációk leküzdésére kidolgozott módszerekkel. 

Hogyan ad jobb válaszokat a jobb kérdésfeltevés

Az egyik ilyen módszer a "Prompt Engineering". Ez ránk, a felhasználókra hárítja a felelősséget, hogy alaposan átgondoljuk, hogyan fogalmazzuk meg a kérdéseket, amelyeket az LLM-eknek teszünk fel. Arról van szó, hogy megkérdezzük a jobbra kérdés. A prompt alapvetően az a kontextus és utasításkészlet, amelyet egy LLM-nek, például a ChatGPT-nek ad, hogy megfelelő választ kapjon. A sikeres kérés magában foglalja a kérdezés egyértelmű kontextusát és perspektíváját, a mesterséges intelligencia generátornak adott "szerepet", és még azt is felvázolja, hogyan szeretné, hogy a válasz felépítésre kerüljön. 

Ez nem csak néhány kulcsszó beütése a Google-ba. A legjobb, legpontosabb eredmény eléréséhez néha több megkeresésre is szükség lehet. Alapvetően teljes mértékben kontroll alatt kell tartania a bemenetét, hogy irányítsa a kimenetét, ami a következők szerint történik a meglévő rendszerrel való együttműködés anélkül, hogy a programozását lényegében megváltoztatná. Minél jobb minőségű a bejuttatott kérés, annál jobb minőségű választ fog kapni. 

Hogyan kapcsolódik a 'Promt Engineering' a pszichedelikus trippeléshez?

"Lenyűgöző dolog!" - mondhatnád - "De mi köze ennek a pszichedelikus szerekhez?!" Nos, nem sok, hogy őszinte legyek, eltekintve ahallucinációk'. De azok a módszerek, amelyekkel meggátolhatjuk az AI hallucinációkat, elgondolkodtattak bennünket arról, hogyan befolyásoljuk saját, célzott hallucinációinkat - azaz a pszichedelikus utazásokat. 

Sok szempontból ez az ötlet, hogy a bemenetet a jó kimenet biztosítása érdekében testre kell szabni, párhuzamba állítható a szándékmeghatározás, és a többi munkánkat, amit azért végzünk, hogy készülj fel egy nagyobb dózisú pszichedelikus utazásra.. Azonban ahelyett, hogy a "rossz" válaszok elkerülése érdekében tennénk ezt. (Egyesek szerint egy pszichedelikus utazás során nincsenek rossz válaszok!) azért tesszük, hogy a lehető legmélyebb és leggeneratívabb élményt kapjuk. A szándékod meghatározása bizonyos értelemben a "kérdés". 'Beállítás és beállítás' olyan, mint a kontextus. 

Bár a mesterséges intelligenciával ellentétben a hallucinációink, álmaink és elménk vándorlása általában pozitív dolog, az utazásra való összpontosítás segíthet abban, hogy a legtöbbet hozzuk ki belőle. Győződjön meg róla, hogy mentálisan jól érzi magát, és hogy biztonságos és kényelmes környezetben van. Fogalmazza meg a kérdéseit/szándékait/ötleteit egy kedves univerzum, nem pedig a Google által végzett keresés. 

Belső énünk víziói

Hallucinálni nagyon is emberi dolog - a belső vágyaink, félelmeink, csodáink, vagy akár a múlt héten a Youtube-on megnézett buta videó látomásai. Minden, ami bennünk van, befolyásolja azt, amit látunk és tapasztalunk, amikor elkalandozunk. Bemenet, kimenet. Tehát, míg az AI hallucinációk határozottan nem egy súlycsoportban, vagy akár ugyanazon a síkon vannak. (legalábbis még nem!) inspirációt meríthetünk abból, ahogyan mi közelítünk hozzájuk, a saját kirándulásainkkal kapcsolatban. pszichedelikus intelligencia.