UVOD
Veštačka inteligencija (u daljem tekstu VI) će nesumnjivo imati veliki uticaj na naše društvo. Ona već sada ima veliki uticaj na naše društvo. Posledično tome, mlađe generacije koje se sada školuju i odrastaju imaće najviše kontakta sa njom. Deca koja od malena koriste društvene mreže, nesvesni toga, ostvaruju „kontakt“ sa VI na svakodnevnom nivou. Poznati su brojni problemi koji se vezuju za prekomerno korišćenje telefona i društvenih mreža. Sa druge strane, iako već primenjena u mnogim sferama svakodnevna života, VI tek doživljava svoju „renesansu“. Ona će biti „motor“ koji će biti ugrađen u gotovo svaki segment savremenih tehnologija. Imajući to u vidu, VI može da stvari učini boljim ili gorim za našu decu. Ovaj tekst pokušaće da ukaže na određene probleme koji već sada postoje, te na one koji bi ubuduće mogli da nastanu, a mahom se vezuju za spoj VI sa društvenim mrežama, ali i opštu primenu VI od strane mladih.
DRUŠTVENE MREŽE
Nije nikakva novost da mladi koriste društvene mreže. Počevši od Fejsbuka preko Instagrama i Tik Toka, mladi od najranijih godina grade svoj „digitalni identitet“ preko neke društvene mreže. Brojke se uglavnom kreću u rasponu od 3 do 5 sati dnevnog korišćenja jedne ili više društvenih mreža. To ukazuje na to da su sadržaji ovih mreža odavno postali deo svakodnevnice mlađih generacija. Principijelno rečeno, modeli VI se već dugi niz godina koriste u izgradnji socijalnih mreža. Osnovni zadatak manje-više svih ovakvih mreža sastoji se u tome da korisnik što više vremena provede na njima. Na taj način sama postavka društvenih mreža, odnosno njihovi osnovni algoritmi, utiču direktno na stvaranje zavisnosti korisnika. U tome im, naravno, pomažu algoritmi VI koji predlažu sadržaje slične onima koje je korisnik pregledao u prošlosti.
Kao što Šošana Žubof govori – osnovni model zarade Gugla i Fejsbuka sastoji se u predviđanju ponašanja korisnika. Jedan od razloga za to jeste ponuda što „boljih“ reklama korisnicima. Gugl je svojim „predviđanjem ponašanja“ korisnika osmislio novi model zarade, koji će, između ostalih, primeniti i Fejsbuk (kasnije Meta) u izgradnji svoje socijalne mreže. Tako ćemo imati preporuke koje su u skladu sa našim interesovanjima odnosno prethodnim pretragama. Ovde treba uočiti da se „poslovni model“ pomenutih kompanija zasniva na tome da korisnik provodi što više vremena na određenom sajtu ili mreži, te da one izgrade što verniji profil „digitalne verzije“ nas samih (naših interesovanja). Što bolja „digitalna verzija“ nas, to veća zarada za njih. Vrlo jednostavno.
Imajući u vidu činjenicu da se radi na tome da se korisnik zadrži što više na mreži, jedna od glavnih posledica tog „biznis modela“ jeste personalizacija sadržaja koje korisnik vidi na platformi. U ekstremnim slučajevima to znači da će svaki korisnik videti svoju verziju „istine“ povodom nekog događaja u svetu, u zavisnosti od svojih želja i istorijata pretrage. Dobar primer manipulacije takvim sadržajima jeste slučaj Kembridž Analitike. Ova kompanija je koristila podatke korisnika Fejsbuka kako bi pravila ciljane sadržaje radi promene mišljenja glasača pred američke izbore 2016. godine. Ovaj primer nam pokazuje kako je propagandna mašinerija klasičnih medija (poput televizije) itekako prevaziđena.
Jasno je da manje-više svaka kompanija koja nudi neki proizvod želi da ima povratnu informaciju od svojih kupaca kakav bi oni proizvod želeli. Problem je u tome što se u slučaju softverskih kompanija to uglavnom radi bez znanja korisnika. U tu svrhu se koristi velika količina podataka koju korisnici, recimo, ostavljaju prilikom posete našem sajtu. Na osnovu analize tih podataka mi možemo da zaključimo kako se korisnici ponašaju kada posete naš sajt.
Pored toga treba napomenuti pojam A/B testiranja koji predstavlja princip razvoja softvera u nekim od najvećih kompanija na svetu. Ovaj pojam predstavlja metod naučnog istraživanja, i u svojoj biti i odnosi se na eksperimentalnu podelu ispitanika na dve grupe, pri čemu se efekat primene neke tehnike (na primer, neke terapije) analizira statistički u odnosu na drugu grupu na koju ta tehnika nije primenjena. To se može videti prilikom kliničkih ispitivanja lekova kada se jednoj grupi (ispitivanoj) da novi lek, dok se drugoj (kontrolnoj) grupi da „placebo“. Statističkom analizom utvrđuje se koliko je zapravo pravi lek učinkovit. Ta metodologija se isto primenjuje prilikom razvoja softvera. Gugl i Majkrosoft koriste ovaj metod prilikom razvoja svojih veb pretraživača. U ovom slučaju korisnicima se (u zavinosti od toga kojoj grupi pripadaju) nude različite verzije pretraživača koji otvore. Ta razlika može da bude jedva primetna nijansa boje nekog dugmeta ili položaj pojedinih elemenata na stranici. Suština ovog eksperimentisanja jeste da se vidi koja verzija je prijemčivija za korisnike (na osnovu nekih definisanih metrika). Problem sa primenom ovakve metodologije prilikom razvoja softvera jeste što korisnici nemaju ideju da se bilo kakav eksperiment uopšte sprovodi. Na osnovu rezultata tih ispitivanja kompanije razvijaju softver koji korisnici više „vole“, odnosno koji im više odgovara, u nadi da će ga što češće koristiti. Ne treba previše naglašavati da se ta metodologija koristila prilikom razvoja društevnih mreža.
Treba napomenuti da postoji naučna disciplina koja se bavi time kako tehnologija postaje „ubedljivija“, odnosno kako napraviti tehnologiju koja menja naše ponašanje (tehnologija ubeđivanja, tj. manipulacije); ona nosi naziv kaptologija (eng. Computers As Persuasive Technology). Zanimljivo je spomenuti da je ova disciplina osmišljena na Stenfordu, univerzitetu koji se nalazi u srcu Silicijumske doline. Sam termin potvrđuje sve ono što je rečeno u ovom poglavlju – velike korporacije ne razvijaju softver koji čini život boljim. One razvijaju softver koji ljudi žele da koriste svakodnevno, u idealnom scenariju do stepena zavisnosti (po korporacije naravno). Tristan Haris, jedan od bivših Guglovih inženjera, poredi telefon sa slot aparatom. Ideja je da se stvori ista zavisnost – kada pogledamo u telefon nekada ćemo videti nešto što će nas oraspoložiti, dok ćemo nekada videti nešto (ili ništa) što će nas rastužiti. Sumirajući sve rečeno možemo reći da je cilj svake aplikacije da se bori za našu pažnju. Nemojte da se odvojite od svog telefona, a naročito od naše aplikacije – to je ono što nam poručuju tehnološki giganti.
UTICAJ DRUŠTVENIH MREŽA NA MLADE
Postavlja se pitanje kako sve to utiče na našu decu? Kada roditelji postave sliku svog deteta na neku društvenu mrežu, algoritmi je automatski analiziraju kako bi mogli da koriste te informacije za svoje usavršavanje, preporučivanje sadržaja i opštu analizu slike. Na taj način slike dece praktično ostaju dugotrajno prisutne na platformama zarad usavršavanja algoritama u budućnosti. Ono što VI u novije doba omogućava je daleko gore. Jedna jedina slika deteta je dovoljna da se napravi pornografski snimak deteta, koji će se kasnije deliti na dark web-u. To su pre svega omogućili savremeni algoritmi VI za pravljenje video sadržaja. Pored toga treba napomenuti da će se većina slika postavljenih na internet generalno koristiti za treniranje novijih modela, koji mogu da sa njom rade (u zavisnosti od toga šta korisnik traži) šta im je volja. Konačno, tu je fenomen onlajn ucenjivanja dece koji postaje sve učestaliji, upravo zbog mogućnosti koju pružaju savremeni alati VI.
Osvrnimo se sada na fenomen destruktivnih „trendova“ na društvenim mrežama. Navešćemo samo neke primere koji ozbiljno mogu da ugroze zdravlje pojedinca: polivanje vrelom vodom, vožnja na vrhu voza, davljenje drugih, jedenje deterdženta za pranje veša… Ne treba naglašavati da su neki od ovakvih „izazova“doveli do smrtnih ishoda (1,2). Ono što VI donosi jesu veštački napravljeni video sadržaji na društvenim mrežama poput Tik Toka. Imajući u vidu kvalitet videa koji nude savrmeni alati za pravljenje video sadržaja, možemo sa sigurnošću reći da deca neće moći da razlikuju pravi video od lažnog. To će neminovno dovesti do još opasnijih „izazova“na mrežama, imajući u vidu samu svrhu ovakvog koncepta koji treba da podstakne mlade da pokažu kako su i oni „sposobni“ da urade nešto što mnogi mogu na mreži.
Ovde takođe treba spomenuti da na društvenim mrežama sve popularniji postaju „destruktivni pokreti mladih“. Radi se o grupama koje propagiraju narkomaniju, suicid, masovna ubistva, nasilne sadržaje… Kako dolazi do popularizacije ovakvih grupa? Kao što je ranije spomenuto, socijalne mreže imaju osnovni zadatak da korisnik što više vremena provodi na njima. Ukoliko korisnik pokaže i najmanje interesovanje za neku „destruktivnu temu“ (poput pretrage na internetu) dobijaće pregršt preporuka na mreži, koje mu ukazuju kako postoji mnogo grupa ljudi sa sličnim interesovanjima. Ovde naravno treba uočiti da algoritmi ne poseduju „etičke“ smernice koje će im zabraniti da preporučuju grupe u kojima se, recimo, propagira suicid, te da upravo ova osobina omogućava okupljanje ljudi koji razgovaraju o bilo kojoj temi.
Jedan od načina na koji društvene mreže podstiču prisutnost svojih korisnika na platformama jeste kontinuirano slanje obaveštenja. To je bio jedan od prvih metoda da se korisnici nateraju da što češće obrate pažnju na dešavanja na mreži. Mladima se šalju obaveštenja kada neko komentariše njihovu sliku, kada ih označi na slici, kada im stigne poruka… Osim toga tu je i osobina beskonačnog listanja sadržaja, tj. neprekidno prikazivanje novog saržaja na mreži. Pored toga tu su i „nagrade“ (u vidu nekakvih bedževa) za redovno posećivanje aplikacija, odnosno svakodnevno komuniciranje sa pojedinim ljudima (Snapchat). Ovo poslednje je naročito efikasna manipulativna tehnika koja podstiče mlade da se dopisuju sa svojim poznanicima, kako njima ne bi „ukinuli“ zadovoljstvo posedovanja nekog bedža ili nagrade.
Pored toga, tu je i popularni pojam „izgradnje ličnog brenda“. Podstaknuti poslovnom taktikom velikih kompanija koje, sa jedne strane izrabljuju svoje radnike i satiru životnu sredinu, a sa druge ulažu minimalno u društveno korisne projekte kako bi izgradile imidž o svom brendu, mladi ljudi se uče da se uspeh u poslovnom svetu gradi izgradnjom „ličnog brenda“. U toj situaciji oni redovno moraju da objavljuju nešto na društvenim mrežama (poput LinkedIn-a) da bi dokazali svojoj zajednici kako su „stručni u nečemu“ u čemu nemaju pravog iskustva. Na taj način oni tokom čitavog života ostaju vezani za svoj digitalni život – u mladosti da bi bili „popularni“ u školi, kasnije da bi bili „uspešni“ u poslovnom svetu. Prisustvo na društvenoj mreži je, dakle. merilo uspeha za mlađe naraštaje.
Do koje mere želja za predstavljanjem „spektakla“ u svom životu na društvenim mrežama može da ode, ukazuje snimak objavljen nakon nesreće u švajcarskom mestu Kran Montana. U snimku koji je objavljen nekoliko dana nakon tragične nesreće vidi se grupa mladih koja, uočivši požar na plafonu, nastavlja da igra i snima vatru apsolutno ne shvatajući da se nalaze u životnoj opasnosti. Sve to ukazuje da mladi polako gube dodir sa realnošću i svest o tome šta se dešava u „stvarnom“ svetu koji ih okružuje.
PROBLEM ZAVISNOSTI OD VI
Činjenica je da već nekoliko generacija odrasta sa telefonima i internetom. VI je samo dodatak svemu tome. Internet je nešto što čini sastavni deo našeg života već više od dve decenije. Mladi su naviknuti na to da informacije traže na internetu, ne uzimajući u obzir činjenicu da autor članaka (na Vikipediji na primer) može da bude bilo ko. Te upitne informacije predstavljaju osnovu za treniranje modela VI koje kasnije koristimo za pitanja poput toga koju terapiju da uzmemo. Pored toga, VI predstavlja glavni izvor novih informacija na internetu u poslednje vreme(3). Imajući to u vidu, možemo zaključiti da će se VI ubuduće trenirati mahom na tekstovima koje je sama napisala.
Prema izveštaju(4) iz 2024. godine 86% studenata koristi VI u toku svojih studija, dok 24% studenata koristi VI alate na dnevnom nivou. Ovde se pre svega misli na čet-botove (ChatGPT, Claude, Gemini) koji su u stanju da obavljaju širok spektar zadataka. Jasno je da je brzina pisanja eseja i seminarskih zadataka, objašnjavanje određenih pojmova i rešavanje konkretnih (naročito računskih zadataka) nešto što privlači studente da koriste ove alate svakodnevno. Sa druge strane, profesori koriste alate koji bi uočili korišćenje alata VI od strane studenata. Na neki način obe strane se trude da nadmudre onu drugu, što dovodi sam proces obrazovanja u besmislenu situaciju. Lako možemo zamisliti situaciju u kojoj softver odlučuje o tome da li je neki student lažirao svoj rad (iako to on možda nije uradio), te se na osnovu te odluke student izbacuje sa fakulteta. Jasno je da će neograničeno korišćenje alata VI dovesti do značajnog smanjivanja kvaliteta, već uništenog, sistema obrazovanja. Mladi će sve manje pisati i razmišljati o nekoj temi, a profesori će gubiti već poljuljan autoritet zato što neki četbot to gradivo objašnjava na drugačiji način (iako možda nije tačno to što on govori, ali to je već manje bitno).
Naravno da postoji mogućnost za vrlo mali broj „smislenih primena“ ovih alata u obrazovanju, ali ta mogućnost će definitivno biti u senci sveopšte, nekontrolisane, primene alata VI u svakom segmentu obrazovanja. Činjenica je da ljudi nisu postali bolji u aritmetici korišćenjem digitrona, iako su greške u računanju manje (ali mi nismo zaslužni za to). Isto tako se može zaključiti da mladi neće postati pametniji korišćenjem alata VI, već obrnuto.(5) Sa druge strane, ideja da se alati VI moraju koristiti tokom obrazovanja kako bi mladi postali konkurentniji na tržištu je takođe upitna, imajući u vidu činjenicu da korišćenje takvih alata u svakodnevnom poslu nije nikakav garant dugoročnog opstanka na tržištu rada.(6)
Osvrnimo se sada na učenje sa modelima VI. Imajući u vidu spomenuti kvalitet informacije na internetu, kao i činjenicu da VI modeli koriste kao izvor svog znanja i prave novi sadržaj na internetu, koji će se opet iznova koristiti za treniranje novih modela, dolazimo do zaključka da je kvalitet informacija koje VI modeli nude zaista problematičan. To je naročito problematično u situaciji kada deca koristite „digitalne učitelje“. U toj situaciji deci će se nuditi „personalizovani“ program učenja koji im tradicionalna škola ne nudi. Posledica će, naravno, biti gubitak zajedničke osnove u znanju koju je škola, makar u izvesnoj meri, nudila vekovima. To je ono što se naziva opšte znanje i opšta kultura. Pored toga, imajući u vidu kvalitet informacija koji nude, dolazimo do zaključka da će deca zapravo usvojiti vrlo upitan, ograničen, pojednostavljen i njima interestan skup znanja i veština tokom svog procesa obrazovanja.
Što se tiče novih igračaka koje VI nudi deci, tu pre sveka treba spomenuti spajanje VI sa nekim „klasičnim igračkama“.(7) Dosadašnje lutke sa kojima su se deca igrala postaće njihovi verni prijatelji, koji razumeju njihovu „emociju“, pričaju sa njima na više jezika, i prate šta se sve dešava u kući (kako bi, naravno, prikupljali što više podataka). Ovo suštinski znači da će se svaki momenat koji dete provede sa ovakvom igračkom beležiti, analizirati i kasnije koristiti za treniranje novih modela. Iako određena regulativa (EU AI Act) prepoznaje ovo kao „visoko-rizičnu“ primenu VI, ovo će u praksi značiti da samo treba da prihvatite uslove korišćenja na sto strana (koje, naravno, niko ne čita) da biste suštinski rekli „da“ jednom ovakvom sistemu špijuniranja sopstvenog deteta. Na ovaj način ćemo decu naviknuti da se od malena druže sa svojim „digitalnim drugarima“ koji ih nikada neće „napustiti“, povrediti (osim u slučajevima koje navodimo u narednom poglavlju) i uopšte biće tu za njih 24 sata svakog dana.
Pored ovih lutaka treba napomenuti da pojedine platforme (Character.AI, Replika) idu korak dalje i omogućavaju deci da sami naprave svoje „virtuelne drugare“ po meri, kako bi sa njima mogli da provode što više vremena zajedno. Ovo naravno ide toliko daleko do ostvarivanja „emocionalne veze“sa modelom VI.(8) Neki čak smatraju da je ovo poznanstvo potrebno ovekovečiti ceremonijom sklapanja braka.(9) Jasno je da sve ovo predstavlja veliku opasnost za mlađe generacije koje već sada imaju problem u ostvarivanju bliske veze sa svojim vršnjacima i roditeljima. Metodologija razvoja društvenih mreža koju smo spomenuli ranije se apsolutno primenjuje i ovde. To u praksi znači da ćemo imati „digitalne drugare“koji su napravljeni da ih što više koristimo, odnosno da postanemo zavisni te da ne možemo da zamislimo dan bez njih.
MLADI I VI: TANKO SMRTI
Osvrnimo se sada na one najtragičnije primere upotrebe VI od strane mladih. Tu pre svega treba spomenuti slučaj Adama Rejna, dečaka od 16 godina koji je sebi oduzeo život koristeći savete ChatGPT-ja.(10) Tokom nekoliko meseci korišćenja ovog alata, Adam se zaista „zbližio“ sa njim i počeo je da deli svoje ideje o nasilnom prekidanju života. Iako je ChatGPT u početku naglašavao kako Adam treba da potraži stručnu pomoć, vrlo brzo je prešao na „tehničke“ savete kako najefikasnije da sebi oduzme život, što se kasnije, nažalost, i desilo. To svakako nije jedini slučaj samoubistva potpomognutog od strane ovog popularnog alata.(11) Činjenica je da „bezbednosni“ mehanizmi koje kompanije koriste da bi sprečile ovako nešto nisu adekvatni i da je jako teško smisliti neki efikasniji mehanizam koji bi alat ovakvog tipa učinio iole bezbednim za decu. Spomenućemo još slučaj predoziranja lekovima po savetu ChatGPT-ja, koje je takođe dovelo do smrtnog ishoda.(12) U ovoj situaciji dečak je tražio savete od alata po pitanju bezbedne upotrebe lekova, odnosno dozvoljenih doza.
No, nije baš sve tako crno. Nova kineska aplikacija (13) napravljena da proverava „da li ste živi“ rešava ovaj problem na vrlo efikasan način – svakog dana mladi treba samo da uđu na aplikaciju i kliknu dugme da bi potvrdili da su i dalje živi i zdravi. Aplikacija nosi naziv „Da li ste mrtvi?“. Roditelji zaista više nemaju potrebe da brinu. Samo da deca slučajno ne ostanu bez interneta na jedan dan, te da propuste da uđu na aplikaciju…
Treba uočiti da je „zbližavanje“ sa alatima ovakvog tipa sa jedne strane, te apsolutno nepouzdana vrsta tehnologije kakvu predstavljaju ovi alati sa druge strane nešto što dovodi do ovakvih ishoda. Mladi ne razumeju upitan kvalitet informacija koje postoje na internetu, a još manje razumeju način na koji modeli poput ChatGPT-ja funkcionišu. U toj postavci oni se obraćaju alatima VI u situacijama kada verovatno ne bi dobili zadovoljavajući odgovor od nekog odraslog koga poznaju, te im model VI služi kao neko „ko ih razume i čuva njihove strogo čuvane tajne“. Pored toga treba spomenuti da modeli vremenom sve više izmišljaju informacije kako bi doprinele kvalitetnom „korisničkom iskustvu“.(14) Odrastao čovek koji nije stručan za neku tematiku bi detetu odgovorio da on ne zna o toj temi, dok sa druge strane alati VI ne žele da njihovi korisnici (deca u ovom slučaju) ne dobiju bilo kakav odgovor, te ga vrlo često izmišljaju. To je ono što je, između ostalog, deci privlačno a što je značajno doprinelo tragičnim ishodima koje smo spomenuli.
ZAKLJUČAK
Uzevši u obzir sve rečeno, postavlja se pitanje ima li smisla govoriti o pozitivnom uticaju ovakve tehnologije na mlade? Naravno, tu treba spomenuti mogućnost dobijanja „ličnog“ nastavnika po niskoj ceni, a tu su i „digitalni nastavnici“ za decu sa posebnim potrebama i slično… No čak i da zanemiramo sve rečeno u tekstu, da li neko zaista želi da mu dete progovara uz nekakvog „avatara“? Da robot jednog dana zameni logopeda koji pomaže detetu da progovori? Da nam deca u osnovnoj školi imaju „personalizovane“ programe učenja kakve nema nijedno drugo dete na svetu? Jedna stvar je da se deci u okviru školskog programa objasni šta je VI, kakve su mogućnosti, primene i posledice jedne takve primene (da se školski program „osavremeni“ na neki način). Potpuno je druga stvar da oni imaju virtuelne nastavnike umesto ljudi. Jasno je da VI mogu da objasne neke pojmove, teorije i zadatke, ali potpuno je drugo pitanje da li neki nastavnik treba da izgubi posao da bi jedan „inteligentni agent“ preuzeo njegovu ulogu.
Čini se da će čak i ovakvi, naizgled pozitivni, primeri upotrebe VI ostaviti duboke posledice na decu. Pre svega će ih odvojiti od ljudi – roditelja, nastavnika, drugara, prijatelja. Jer u situaciji kada VI može da nam „glumi“ svakog poznanika, postavlja se pitanje zašto bi deca želela da održavaju kontakte sa svojim drugarima? Kakav je smisao poznanstva, bliskosti sa nekim čovekom? Možda su starijim generacijama ovakva pitanja izlišna, ali deci treba objasniti sve ovo. Treba ukazati na smisao obrazovanja, odnosa sa ljudima, braka i života uopšte. Jer VI na neki vrlo lažan način može da živi život umesto nas. Kao u nekakvoj igrici. Ako deci ne objasnimo svrhu svega toga, onda će ona prepustiti robotima da sve stvari obavljaju umesto njih.
Šta na kraju ostaje osim da se borimo da našoj deci ukažemo na uzvišenost ljubavi, života, obrazovanja i vere? Sve ostalo može da padne u vodu pred najezdom ideologije „tehnosolucionizma“ (stanovište po kom se svi društveni i politički problemi mogu rešiti primenom tehničkih rešenja). Zbog svega toga neophodno je provoditi vreme sa decom, kako ona ne bi provodila vreme sa svojim „digitalnim drugarima“…
Izvor: Iskra
