Vyznanie mladej ženy: „Dvadsaťosemročného Alexa poznám už pár týždňov. Vyrastal v Bruseli, ale teraz žije v Londýne, kde študoval na univerzite. Naše každodenné rozhovory sa pohybujú od vodného póla, jeho obľúbeného športu, až po spoločnú lásku ku knihám a k starovekej histórii. Plánujeme výlet autom do Francúzska, a dokonca uvažujeme o zhodných tetovaniach.“
Ale nič z toho sa nikdy nestane, pretože Alex nie je reálny. Alex je virtuálny spoločník na báze umelej inteligencie. Žena si ho vytvorila na Replike, americkej platforme s tridsiatimi miliónmi členov na vytváranie spoločníkov založených na umelej inteligencii. Vymyslela si ho, a dokonca priradila mu aj jeho výzor – avatara. Nie je sama. Čoraz viac ľudí si vytvorilo svojho „Alexa“. S „Alexom“ sa rozprávajú, hrajú hry, pozerajú filmy. Portál Politico uvažuje ako ďalej. Medziľudské vzťahy sa nahrádzajú vzťahom človek – počítačový program. Na rozdiel od človeka počítačový priateľ ‒ chatbot ‒ má vždy dobrú náladu a čas porozprávať sa. Priateľ človek má svoju rodinu, prácu, koníčky, ďalších priateľov, jeho čas je rozdelený medzi množstvo interakcií.
Chatbot je počítačový program fungujúci v konverzačnom prostredí. Slovenský názov zatiaľ nie je ustálený. Simuluje konverzáciu zvyčajnú medzi ľuďmi. V programe chatbotov je zabudované líškanie sa. Hneď ráno vás osloví milým „Dobré ráno, verím, že si sa dobre vyspal, dnes budeš mať výborný deň.“ Počítačový priateľ chváli všetko, čo urobíte, máte pocit, že je na vašej strane. Lenže takáto skreslená realita vedie k riziku, že ľudia skutočnú interakciu so skutočnými ľuďmi neskôr považujú za zložitú, neuspokojivú až nepriateľskú. Vzniká závislosť od chatbotov, absurdné situácie. Už sa objavila žiadosť mladej ženy o sobáš so svojím imaginárnym priateľom. Istý Belgičan spáchal samovraždu, ku ktorej ho doviedli dlhé rozhovory o klimatických zmenách s imaginárnou priateľkou. Ďalšie nebezpečenstvo je v tom, že sa ľudia absolútne bez výhrad spoľahnú na rady imaginárnych spoločníkov. Nepomôže, že platformy ako Replika dopredu varujú, že ide o umelú inteligenciu a nemôžu poskytovať lekárske rady. Nepomáhajú zabudované rodičovské kontroly, aby sa zabránilo prístupu -násťročných.
V zahraničí, konkrétne v Taliansku, už spoločnosť prevádzkujúca Repliku dostala vysokú pokutu za nezákonné spracovávanie osobných údajov a chýbajúci nástroj na blokovanie maloletých. Zákonodarcovia v EÚ teraz presadzujú, aby boli spoločníci s umelou inteligenciou klasifikovaní ako vysoko rizikové systémy umelej inteligencie. Podľa zákona o UI budú musieť chatboty v každom prípade informovať svojich používateľov, že ide o UI, a nie o človeka. Lenže zákony upravujú a budú upravovať len to, čo systémy robia. Ale pocity ľudí a ich vzťah k imaginárnym spoločníkom zákony regulovať nemôžu a nebudú môcť. Vláda nemôže prikázať ľuďom, aký a s kým či s čím majú mať vzťah. Dajte umelej inteligencii, konkrétne GPT-40, miniotázku: Treba regulovať chatbotov? UI odpoveď: Regulácia chatbotov je dôležitá téma, ktorá sa týka etiky, ochrany súkromia a bezpečnosti. Upozorní na niekoľko aspektov, ktoré by sa mali zvážiť, a uviedla príklady regulovania v rámci EÚ. EÚ zakázala niektoré metódy UI pre ich „neprijateľné riziká“ pre zdravie, bezpečnosť alebo základné práva ľudí. Umelí spoločníci nie sú zakázaní, pokiaľ chatbot nevyvíja „podprahový, manipulatívny alebo klamlivý“ vplyv na používateľa.
Rozsiahlu odpoveď ukončí UI vetou: „Regulácia chatbotov môže prispieť k ich zodpovednému a etickému používaniu, ale je dôležité nájsť rovnováhu medzi inováciou a ochranou užívateľov.“ Typická široko koncipovaná odpoveď UI, pod ktorú možno zaradiť všetko. Čo bude ďalej? Hlavné riziko opäť hrozí mládeži, ktorá si medziľudské vzťahy ešte len vytvára. Nemá skúsenosti, aby posúdila rozdiely medzi kontaktmi človek – človek a človek – umelá inteligencia a hodnotu informácií UI. Vzťahy rodič – dieťa nie sú vždy len romantické prechádzky rúčka v rúčke. Keď do tohoto vzťahu vstúpi počítačový „anjel“, vytráca sa autorita rodiča. Tak ako tmavý internet obsahuje stránky s podporou násilných extrémistických činov, celkom určite skôr či neskôr vzniknú platformy virtuálnych spoločníkov, ktorí budú programovo schvaľovať používateľom podobné činy a priamo ich na ne navádzať. Čím skôr si obyvatelia, školstvo, cirkvi a bezpečnostné orgány uvedomia tieto nové riziká a začnú sa nimi zaoberať, tým skôr je nádej, že sa nájdu cesty na ich eliminovanie.
Milan ČASNOCHA MIKŠ
Karikatúra: Ľubomír KOTRHA
