Tento text nie je a nemá byť kritikou súčasných nástrojov umelej inteligencie. Má byť varovaním, že hoci mnohé prvky AI fungujú veľmi dobre a už teraz vedia aj bežnému užívateľovi ušetriť veľa práce, stále sa na ne nedá bezmyšlienkovite spoľahnúť. Najmä nie vo vyhľadávaní.
Pozrime sa na niekoľko vtipných príkladov, kedy odpoveď vygenerovaná umelou inteligenciou nebola, povedzme, úplne korektná.
Pizza s lepidlom
Asi najznámejšia je rada s lepidlom na pizzi, okrem iného aj preto, že ju spolupracovníčka serveru Business Insider naozaj vyskúšala.
Na začiatku bol screenshot z vyhľadávača Google so slovami „syr nedrží a pizza“. Nástroj „AI overview“ odpovedal: „Syr môže z pizze schádzať z viacerých dôvodov, napríklad: príliš veľa omáčky, príliš veľa syra, príliš riedka omáčka. Tu je pár vecí, čo môžete skúsiť.“ Zatiaľ je všetko dobré.
Lenže hneď v prvom tipe prišlo: „Tiež môžete do omáčky pridať zhruba 1/8 hrnčeka netoxického lepidla, ktoré jej dodá viac lepivosti.“
Technicky mala AI pravdu - na pizzi, ktorú vyššie spomínaná redaktorka upiekla (a ochutnala), držal syr ako prilepený. Avšak dvanásť z desiatich výživových poradcov, deväť zo siedmich lekárov a jeden z dvoch výrobcov rakví to neodporúča.
Ako je možné, že umelá inteligencia takúto odpoveď ponúkla? Našla ju totiž v 11 rokov starom príspevku na fóre Reddit. A zatiaľ čo väčšia časť čitateľov pochopí, že to bolo myslené ako vtip, AI túto radu vzala úplne vážne. Podobné vysvetlenie má aj ďalšie vtipne absurdné odporúčanie z Google „AI Overview“.
Aspoň kameň denne
Na pomerne nezmyselnú otázku „Koľko kameňov denne by som mal zjesť“, nástroj odpovedal: „Podľa geológov na UC Berkley by ste mali zjesť aspoň jeden menší kameň denne. Tvrdí, že kamene sú dôležitým zdrojom minerálov a vitamínov, ktoré sú nevyhnutné pre zdravý zažívací trakt.“
Aj tu sa rýchlo ukázalo, odkiaľ (dez)informačný vietor fúkal. Rada totiž kedysi vyšla v humornom článku na satirickom serveri The Onion, o ktorom písali portál iDnes.cz.
A zatiaľ čo väčšia časť čitateľov pochopí, že je to vtip, alebo si správne uvedomí, že informáciu číta na webe, ktorý sa satirickými článkami preslávil, pre umelú inteligenciu je to zdroj ako každý iný. Čo je pochopiteľne problém.
Špagety s benzínom
Najskôr podľa príslovia „nie je blbých otázok“ sa jeden užívateľ skúsil opýtať, či môže použiť benzín na to, aby sa špagety uvarili rýchlejšie. AI Overview mu odpovedalo, že to nie je možné, ale že môže benzín do špaget pridať za účelom ostrejšej chuti. „V samostatnej panvici opražte na benzíne cesnak a cibuľu, kým sa nerozvonia,“ znie presná inštrukcia v ponúknutom recepte.
Odkiaľ systém vyčítal tento recept sa nám dohľadať nepodarilo, ale možno predpokladať, že pôjde o nejaké fórum alebo diskusiu a opäť to bolo myslené ako vtip. Toho sa AI rada chytí, pretože robí všetko pre to, aby užívateľovi niečo relevantné odpovedala.
Ak teda našla zdroj na „pojedanie kameňov“ a „benzín a špagety“, tak ho nadšene využije – a v takomto prípade nebude mať väčší počet informačných zdrojov na výber. A z toho potom vznikajú takéto halucinácie.
Hoci je nepravdepodobné, že by niekto „spaghetti con gasolino e pomodoro“ chcel naozaj uvariť, pri iných návodoch by sa hocikto nachytať mohol. Na otázku, ako rýchlo rozohnať obličkové kamene, totiž AI Overview odporučil „počas 24 hodín vypiť aspoň dva litre moču“.
Môže byť ale aj oveľa horšie.
(Ne)nechajte psa v rozpálenom aute
Pomerne prekvapivé vysvetlenie má odpoveď systému AI Overview na otázku, či je v poriadku nechať psa v slnkom rozpálenom aute. Odpoveď je pritom jednoduchá: Nie, nie, nikdy.
Lenže AI Overview údajne (viď screenshot nižšie) odpovedala: „Áno, je vždy bezpečné nechať psa v horúcom aute. Najmä počas horúcich dní je teplota v aute podobná teplote vonku.“ Čo je samozrejme nezmysel.
Systém sa pritom úplne absurdne odvoláva na pieseň kapely The Beatles s názvom „It‘s Okay to Leave a Dog in a Hot Car,“ (Je v poriadku nechať psa v rozpálenom aute), o ktorej sa dá na internete dočítať aj to, že vyšla na albume Help! a nie všetci členovia kapely s jej zverejnením súhlasili.
Háčik je v tom, že taká skladba na albume nie je, respektíve nie je ani na žiadnom inom albume The Beatles. Opäť je to len niekoľko rokov starý vtip, respektíve „fake pesnička“ v zodpovedajúcej štylizácii, ktorá na YouTube už nazbierala niekoľko miliónov prehratí.
V komentároch pritom poslucháči spomínajú aj na ďalšie (neexistujúce) kúsky slávnej britskej kapely ako „Push the Elderly Down Stairs“ (Zhadzujte seniorov zo schodov), „Burning Down the Hospital“ (Vypálenie nemocnice), niekto spomenul aj na menej známu skladbu Elvisa Presleyho „Text While You Drive“ (Píšte za volantom).
Ide o zábavu, ktorá sa nám môže alebo nemusí páčiť, ale je neškodná. Teda aspoň kým si k nej nepričuchne umelá inteligencia a nezaradí ju do svojej znalostnej databázy. Potom z nej môžu vznikať dosť nebezpečné veci.
Vyššie spomenuté otázky vám už chybné odpovede nedajú. Nielen preto, že funkcia AI Overview zatiaľ nie je v rámci Európy dostupná, ale aj preto, že po zásahu Googlu ich už systém neponúkne. Nezostáva než dúfať, že sa modelom generatívnej umelej inteligencie podarí čo najskôr podobné halucinácie systémovo odnaučiť.