OpenAI formează o nouă echipă pentru a studia siguranța copiilor

OpenAI a format o echipă pentru Siguranță Copilului pentru a preveni utilizarea abuzivă a instrumentelor sale de inteligență artificială de către copii. Echipa caută să angajeze un specialist în aplicarea siguranței copiilor pentru a gestiona conținutul generat de AI și a revizui conținutul “sensibil”, legat de copii. Există îngrijorări cu privire la utilizarea de către copii a instrumentelor GenAI, cum ar fi ChatGPT, pentru a face față problemelor personale, și există solicitări pentru reglementări guvernamentale privind utilizarea GenAI în educație, inclusiv punerea în aplicare a limitelor de vârstă. Organizația UNESCO împinge pentru reglementări privind utilizarea GenAI în educație.

Sub supravegherea activiștilor – și a părinților – OpenAI a format o nouă echipă pentru a studia modalități de a preveni utilizarea abuzivă sau abuzată a instrumentelor sale de inteligență artificială de către copii.

Într-o nouă listă de locuri de muncă pe pagina sa de carieră, OpenAI dezvăluie existența unei echipe pentru Siguranța Copilului, despre care compania spune că lucrează cu politicile platformei, cu grupurile juridice și de investigații din cadrul OpenAI, precum și cu parteneri externi pentru a gestiona „procesele, incidentele și recenziile” legate de utilizatorii minori.

În prezent, echipa caută să angajeze un specialist în aplicarea siguranței copiilor, care va fi responsabil cu aplicarea politicilor OpenAI în contextul conținutului generat de AI și să lucreze la procesele de revizuire legate de conținutul „sensibil” (probabil legat de copii).

Furnizorii de tehnologie de o anumită dimensiune dedică o cantitate suficientă de resurse respectării unor legi precum Regulă de protecție a confidențialității online a copiilor din SUA, care impune controlul asupra a ceea ce copiii pot – și nu pot – accesa pe web, precum și ce tipuri de companii de date. pot colecta pe ele. Deci faptul că OpenAI angajează experți în siguranța copiilor nu este o surpriză completă, mai ales dacă compania se așteaptă într-o zi la o bază semnificativă de utilizatori minori. (Termenii de utilizare actuali ai OpenAI necesită consimțământul părinților pentru copiii cu vârsta cuprinsă între 13 și 18 ani și interzic utilizarea copiilor sub 13 ani.)

Dar formarea noii echipe, care vine la câteva săptămâni după ce OpenAI a anunțat un parteneriat cu Common Sense Media pentru a colabora la liniile directoare AI pentru copii și a obținut primul său client educațional, sugerează, de asemenea, o atenție față de partea OpenAI de a încălca politicile referitoare la utilizarea de către minori a inteligenței artificiale — și presa negativă.

Copiii și adolescenții apelează din ce în ce mai mult la instrumentele GenAI pentru ajutor nu numai cu activitatea școlară ci probleme personale. Potrivit unui sondaj de la Centrul pentru Democrație și Tehnologie, 29% dintre copii raportează că au folosit ChatGPT pentru a face față problemelor de anxietate sau de sănătate mintală, 22% pentru probleme cu prietenii și 16% pentru conflicte familiale.

Unii văd acest lucru ca pe un risc tot mai mare.

Vara trecută, școlile și colegiile s-au grăbit să interzică ChatGPT din cauza temerilor de plagiat și dezinformare. De atunci, unii au inversat interdicțiile lor. Dar nu toți sunt convinși de potențialul GenAI spre bine, indicând sondaje precum Centrul Safer Internet din Marea Britanie, care a constatat că peste jumătate dintre copii (53%) au raportat că au văzut oameni de vârsta lor folosind GenAI într-un mod negativ – de exemplu, creând informații false credibile sau imagini folosite pentru a supăra pe cineva.

În septembrie, OpenAI a publicat documentație pentru ChatGPT în sălile de clasă cu solicitări și întrebări frecvente pentru a oferi educatorilor îndrumări privind utilizarea GenAI ca instrument de predare. Într-una din articole de sprijinOpenAI a recunoscut că instrumentele sale, în special ChatGPT, „pot produce rezultate care nu sunt adecvate pentru toate publicurile sau toate vârstele” și a sfătuit „atenție” la expunerea la copii – chiar și la cei care îndeplinesc cerințele de vârstă.

Solicitările pentru orientări privind utilizarea GenAI de către copii sunt în creștere.

Organizația ONU pentru Educație, Știință și Cultură (UNESCO) la sfârșitul anului trecut împins pentru ca guvernele să reglementeze utilizarea GenAI în educație, inclusiv punerea în aplicare a limitelor de vârstă pentru utilizatori și a unor balustrade privind protecția datelor și confidențialitatea utilizatorilor. „IA generativă poate fi o oportunitate extraordinară pentru dezvoltarea umană, dar poate provoca și prejudicii și prejudecăți”, a declarat Audrey Azoulay, directorul general al UNESCO, într-un comunicat de presă. „Nu poate fi integrat în educație fără angajamentul public și fără garanțiile și reglementările necesare din partea guvernelor.”

Va invit sa cititi si articolele de mai jos pe langa acestea care sunt cele mai recente
OpenAI forms a new team to study child safety

Lasa un comentariu