Ako ochrániť deti pred „vyzliekacími“ aplikáciami?
Fotka na sociálnej sieti, nevinná selfie alebo záber z výletu. Pre nás je to obyčajný obrázok, no pre niekoho so zlými úmyslami môže ísť o vstupenku k tomu, čo by sme si nevedeli predstaviť ani v najhoršom sne.
Umelá inteligencia dnes dokáže vytvárať úžasné veci. Pomáha deťom pri učení, dospelým v práci a všetkým nám ponúka nové možnosti, ako tvoriť a komunikovať. No rovnako rýchlo, ako pribúdajú jej užitočné využitia, narastajú aj jej zneužitia.
Príkladom sú takzvané „vyzliekacie“ aplikácie. Z fotografie oblečeného človeka dokážu pomocou nástrojov umelej inteligencie vytvoriť falošný nahý obraz. A hoci nejde o skutočnú fotografiu, pre človeka, ktorý sa na nej ocitne, môžu byť následky až príliš skutočné. A čo je ešte horšie – obeťou sa môžu stať aj deti.
Z jednej fotografie k vážnym ťažkostiam
Výsledkom zámerného zneužitia technológie môže byť falošný intímny obrázok, ktorý sa začne šíriť medzi spolužiakmi. Vtedy už nejde len o digitálny problém, ale aj o poníženie, šikanu, strach či vydieranie.
Deje sa to aj na Slovensku a v mierke, akú by sme možno nepredpokladali. Psychológovia z organizácie IPčko už riešili viac ako 2 500 prípadov falošných nahých obrázkov. Za každým číslom je konkrétne dievča či chlapec, ktorému môže takáto skúsenosť narušiť osobný priestor, pocit bezpečia a dôveru vo vlastné okolie. Práve preto je dôležité hovoriť o tomto probléme skôr, než sa stane súčasťou každodennosti.
Internet nie je „tam niekde“
Pre naše deti je dnes internet rovnako prirodzenou súčasťou života ako škola, ihrisko či stretnutia s kamarátmi. Učia sa v ňom, zabávajú sa, pozerajú videá, píšu si s priateľmi a objavujú svet. Digitálne prostredie však prináša aj situácie, pred ktorými chceme svoje deti chrániť. Nemôžeme byť pri každom kliknutí, každej správe či fotografii, ktorú zdieľajú. O to dôležitejšie je naučiť ich, ako sa v online svete bezpečne pohybovať. To ale nemôže byť iba úlohou rodičov. Svoju zodpovednosť musia niesť aj technologické spoločnosti a platformy, ktoré vytvárajú prostredie, v ktorom sa naše deti pohybujú. Aj v digitálnom svete totiž musia existovať hranice, ktoré ochránia ľudskú dôstojnosť. Otázka však nie je, či pustíme deti na sociálne siete, ale za akých podmienok dovolíme sociálnym sieťam prístup k našim deťom. Práve tu sa ukazuje dôležitosť európskeho prístupu.
Keď pravidlá dobiehajú technológie
Ochranu detí v digitálnom priestore považujem za jednu zo svojich priorít. Preto som upozornila na konkrétny problém „vyzliekacích“ aplikácií a vyzvala Európsku komisiu, aby začala vyšetrovanie ich fungovania a spôsobu, akým zneužívajú fotografie ľudí vrátane detí. Aj vďaka môjmu tlaku a nasadeniu kolegov z frakcie Európskej ľudovej strany sme problém riešili v Európskom parlamente a takéto aplikácie sme promptne zakázali. Môj prístup je jasný: to, čo je neprijateľné a nezákonné v reálnom svete, musí byť nelegálne aj online.
Nie je to len o technológiách
Možno najdôležitejšia vec na celej debate je, že nejde iba o technický problém s využívaním umelej inteligencie. Ide o to, čo sa stane, keď technológia naruší pocit bezpečia dieťaťa. Keď sa zverejnená fotografia zmení na nástroj šikany. Keď sa dieťa začne báť, čo si ňom hovoria spolužiaci a keď si prestane byť isté, komu môže veriť.
Technológia je v tomto prípade iba nástroj. Skutočnou témou je rešpekt k človeku – a pri deťoch to platí dvojnásobne. Preto je dôležité, aby sa ochrana detí nekončila pri domácej debate počas večere o tom, čo vieme urobiť pre ne vlastnými silami, ale aby fungovali aj pravidlá pre bezpečnejšie prostredie. Vďaka tým, ktoré sme presadili v Európskom parlamente, budú môcť deti využívať online priestor na svoj rozvoj o krok bezpečnejšie.
Miriam Lexmann
členka predsedníctva Európskeho parlamentu a poslankyňa frakcie Európska ľudová strana
