Asistenții AI pentru învățare pot fi un sprijin valoros, însă calitatea și măsurile lor de siguranță variază considerabil. Iată ce ar trebui să verifice părinții înainte de a le permite copiilor să îi utilizeze. Inteligența artificială transformă deja domenii dintre cele mai diverse, de la sănătate la marketing. Acum a venit rândul educației. Guvernele văd în AI o șansă pentru a reduce costurile și a îmbunătăți rezultatele elevilor. Școlile testează instrumente care pot adapta exercițiile la nevoile fiecărui elev, iar părinții descoperă o modalitate de a le oferi copiilor sprijin la învățătură, fără costurile unui profesor particular. Însă, ca în orice domeniu influențat de AI, beneficiile vin la pachet cu riscuri.

Dependența excesivă și riscul de a reduce gândirea critică sunt printre cele mai frecvente îngrijorări ale părinților. În același timp, pot apărea și probleme legate de securitate și confidențialitate, mai ales dacă este folosit un simplu chatbot prezentat drept tutore AI. De aceea, este important ca părinții să înțeleagă atât avantajele, cât și limitele inteligenței artificiale.

Piața asistenților AI pentru învățare este în plină expansiune

Piața instrumentelor de tip tutore AI crește în ritm accelerat. Potrivit unei estimări, ar urma să se extindă de la aproximativ 2 miliarde de dolari în 2025 la peste 17,7 miliarde de dolari până în 2033. Guvernul britanic a invitat deja companiile din domeniul tehnologiei pentru educație și al inteligenței artificiale să dezvolte împreună instrumente sigure la utilizare în școli. Autoritățile estimează că până la 450.000 de elevi din medii defavorizate ar putea beneficia de aceste instrumente, oferindu-le o soluție familiilor care nu-și permit profesori particulari.

Piața se maturizează rapid. Astăzi există o gamă variată de tutori AI, însă termenul „tutore AI” acoperă o categorie foarte diversă de produse. Unele sunt, în esență, chatboturi cu utilizare generală, promovate ca instrumente educaționale, în timp ce altele sunt platforme de învățare bine structurate, dezvoltate în jurul unei programe școlare.

La primul nivel se află chatboturile și asistenții AI simpli. Aceștia pot rezuma informații și răspunde la întrebări generale, însă nu oferă neapărat și valoare educațională. În unele cazuri, ajung chiar să rezolve sarcinile în locul utilizatorilor. La nivelul superior regăsim chatboturile dezvoltate special pentru educație. Sunt concepute să nu ofere răspunsuri directe, ci să folosească o abordare bazată pe metoda socratică, adresând întrebări și oferind indicii care-i ajută pe elevi să descopere singuri soluțiile.

Cele mai avansate sunt Sistemele Inteligente de Tutorat (Intelligent Tutoring Systems – ITS), care utilizează un curriculum predefinit, creat de specialiști. Platformele sprijină procesul de învățare pas cu pas: oferă indicii atunci când elevii întâmpină dificultăți și reduc aproape complet riscul expunerii la conținut nepotrivit.

Tutorii AI chiar funcționează?

Răspunsul nu este încă unul clar. Deși unele studii indică rezultate promițătoare, dovezile disponibile nu susțin afirmația că tutorii AI îmbunătățesc procesul de învățare în toate situațiile. În anumite cazuri, tehnologia ar putea chiar avea efecte nedorite.

Un studiu realizat recent în Marea Britanie arată că două treimi dintre profesori au observat deja o scădere a abilităților de redactare și de rezolvare a problemelor în rândul elevilor, pe fondul utilizării AI. Un alt studiu a identificat o corelație importantă între utilizarea frecventă a instrumentelor AI și diminuarea capacității de gândire critică. Potrivit cercetătorilor, folosirea AI ca tutore pentru copii poate reduce implicarea lor în procese de reflecție profundă și analiză critică.

Este unul dintre cele mai mari riscuri de dezvoltare asociate cu utilizarea instrumentelor AI de către copii. Dacă inteligența artificială oferă răspunsurile prea repede sau simplifică excesiv procesul de învățare, copiii pot deveni prea dependenți de asemenea soluții și își pot pierde motivația de a gândi și de a rezolva probleme de unii singuri. Pe termen lung, poate favoriza apariția unei forme de „lene cognitivă”, cu efecte negative asupra dezvoltării abilităților de învățare și de gândire critică.

Există și alte riscuri de natură psihologică și socială. Copiii pot ajunge să aibă prea multă încredere în tutorii AI, care formulează răspunsuri cu multă siguranță, chiar și atunci când sunt incorecte. Din acest motiv, cei mici sunt mai predispuși decât adulții să accepte drept adevărate informațiile eronate generate de AI. În plus, unii copii pot începe să privească aceste instrumente ca pe niște „prieteni” virtuali, ceea ce le poate afecta relațiile și legăturile emoționale cu cei din jur.

De asemenea, AI are limite importante ca instrument pentru educație. Poate cunoaște răspunsul la o întrebare, dar nu știe întotdeauna cum să gestioneze frustrarea, lipsa de motivație sau dificultățile de învățare ale unui copil. Empatia, răbdarea și abilitățile de comunicare ale unui profesor rămân calități pe care inteligența artificială le poate reproduce doar într-o măsură limitată, dacă nu chiar deloc.

O întrebare esențială vizează modul în care instrumentul AI îi implică pe copii în procesul de învățare. Îi încurajează să-și explice raționamentul, să încerce să rezolve singuri problemele și să învețe din feedback-ul primit? Sau, dimpotrivă, doar îi ajută să-și termine temele mai repede, preluând, fără prea mult efort, direct rezultatul?

Riscuri de securitate și confidențialitate

Există și alte aspecte de luat în calcul. În cazul chatboturilor fără restricții de utilizare și al unor instrumente similare, conversațiile pot devia către subiecte nepotrivite pentru vârsta copiilor.

De asemenea, un tutore AI poate colecta mult mai multe informații decât cele oferite de elev. În funcție de model, poate stoca prompturile introduse, temele școlare, date despre performanța la învățătură, interesele utilizatorului, informațiile contului, identificatorii dispozitivului sau chiar înregistrări vocale.

Mai mult, informațiile introduse în conversațiile cu modelul AI pot fi utilizate pentru antrenare și, în anumite situații, pot ajunge să fie expuse altor utilizatori. Unele date pot fi, de asemenea, partajate cu parteneri de publicitate sau cu alte terțe părți. Acest lucru nu reprezintă doar un risc pentru confidențialitate, ci se poate transforma și într-o problemă serioasă de securitate dacă furnizorul serviciului AI sau unul dintre partenerii săi de încredere care gestionează datele copilului este compromis în urma unui atac cibernetic. 

În cazul unui instrument activat vocal, furnizorul poate deține și date biometrice, precum înregistrările vocii copilului. Dacă astfel de informații ar fi furate și asociate cu identitatea lui, ar putea avea o valoare ridicată pentru infractorii cibernetici și ar putea fi folosite în diverse forme de fraudă sau furt de identitate.

Iată o serie de întrebări importante pe care părinții ar trebui să și le pună înainte de a alege un tutore AI:
– Copilul are vârsta minimă necesară pentru a utiliza serviciul, conform termenilor și condițiilor?
– Ce informații sunt colectate, în ce scop și pentru cât timp sunt păstrate?
– Sunt conversațiile utilizate pentru antrenarea sau îmbunătățirea modelelor AI?
– Pot părinții să acceseze și să solicite ștergerea datelor copilului?
– Ce furnizori de servicii sau alte organizații au acces la aceste date?
– Afișează produsul reclame sau utilizează datele pentru profilarea utilizatorilor?

În cele din urmă, există și riscul atacurilor de tip prompt injection. Apar atunci când un model AI este manipulat să ignore măsurile de siguranță integrate și să afișeze sau să proceseze conținut care, în mod normal, ar fi fost blocat. Un copil ar putea folosi tehnica pentru a ocoli restricțiile și a accesa conținut nepotrivit vârstei sale. În același timp, atacatorii pot ascunde instrucțiuni malițioase în pagini web aparent legitime. Atunci când AI interacționează cu aceste pagini, poate fi determinat să redirecționeze utilizatorul către site-uri de phishing sau să execute alte acțiuni nedorite.

Câteva măsuri de precauție pentru părinți

Există numeroase aspecte pe care părinții ar trebui să le ia în considerare înainte de a introduce un tutore AI în procesul de învățare al copiilor. În primul rând, este important să facă diferența între un simplu asistent AI și un Sistem Inteligent de Tutorat (ITS) dedicat educației.

Alegeți instrumente care îi ghidează pe copii în procesul de învățare, încurajându-i să gândească și să-și descopere singuri soluțiile, nu aplicații care oferă doar răspunsuri rapide la întrebări. De asemenea, este recomandat să țineți cont de următoarele:
– Alegeți instrumente care respectă reglementările privind protecția datelor (precum COPPA, CCPA sau GDPR) și care nu transmit datele copilului către modelul AI folosit în fundal.
– Optați pentru soluții aprobate de școala copilului sau susținute de dovezi privind eficiența lor educațională.
– Citiți cu atenție politica de confidențialitate, în special secțiunile referitoare la antrenarea modelelor AI, păstrarea datelor, publicitate și partajarea informațiilor cu terți.
– Folosiți instrumentul de învățare împreună cu copilul. Chiar dacă AI poate fi un sprijin util, învățarea alături de un adult rămâne, de cele mai multe ori, mai valoroasă.
– Învățați-i pe copii să nu introducă informații personale în conversațiile cu AI și să recunoască situațiile în care acesta genera informații incorecte sau inventate.
– Discutați cu copiii despre experiența lor cu tutorele AI și explicați-le că, indiferent cât de natural pare, nu are emoții sau conștiință.
– Subliniați faptul că un tutore AI poate formula răspunsuri cu multă încredere chiar și atunci când greșește. Informațiile importante trebuie verificate împreună cu profesorii sau în manuale și alte surse de încredere.
– Activați toate setările de siguranță și control parental disponibile, adaptate vârstei copilului.
– Stabiliți o limită zilnică pentru utilizarea tutorelui AI, la fel cum ați face în cazul timpului petrecut în fața ecranelor.
– Verificați periodic istoricul conversațiilor (prompturilor), pentru a vă asigura că instrumentul este utilizat în mod sigur și în scop educațional.

Tehnologia evoluează în ritm accelerat, iar pe piață apar constant noi soluții. Dacă vă gândiți să apelați la un tutore AI pentru a sprijini educația copilului, este important să vă informați periodic despre noile instrumente disponibile. Totodată, nu uitați că, oricât de avansată ar deveni inteligența artificială, nu poate înlocui în totalitate metodele tradiționale de învățare.