8 mari probleme cu ChatGPT de la OpenAI

ChatGPT este un chatbot AI puternic care impresionează rapid, dar mulți oameni au subliniat că are câteva capcane serioase.


VIDEO MUO AL ZILEI

Derulați PENTRU A CONTINUA CU CONȚINUT

De la încălcări de securitate până la răspunsuri incorecte la datele nedezvăluite pentru care a fost antrenat, există o mulțime de preocupări cu privire la chatbot-ul alimentat de AI. Cu toate acestea, tehnologia este deja încorporată în aplicații și utilizată de milioane, de la studenți la angajații companiei.

Fără niciun semn de încetinire a dezvoltării AI, problemele cu ChatGPT sunt și mai importante de înțeles. Cu ChatGPT setat să ne schimbe viitorul, iată câteva dintre cele mai mari probleme.


Ce este ChatGPT?

ChatGPT este un model de limbaj mare conceput pentru a produce limbaj uman natural. La fel ca și când conversați cu cineva, puteți vorbi cu ChatGPT și își va aminti lucrurile pe care le-ați spus în trecut, fiind capabil să se corecteze singur atunci când este provocat.

Captură de ecran a interfeței ChatGPT.


A fost instruit pe tot felul de text de pe internet, cum ar fi Wikipedia, postări pe blog, cărți și articole academice. Pe lângă faptul că vă răspunde într-un mod asemănător omului, poate aminti informații despre lumea noastră actuală și poate extrage informații istorice din trecutul nostru.

A învăța cum să folosești ChatGPT este simplu și este la fel de ușor să fii păcălit să crezi că sistemul AI funcționează fără probleme. Cu toate acestea, de la lansare, au apărut probleme cheie legate de confidențialitate, securitate și impactul mai larg asupra vieții oamenilor, de la locuri de muncă la educație.

1. Amenințări de securitate și preocupări legate de confidențialitate

Există o mulțime de lucruri pe care nu trebuie să le împărtășiți cu chatboții AI și din motive întemeiate. Scrierea despre detaliile tale financiare sau informații confidențiale la locul de muncă vine cu un risc. OpenAI păstrează istoricul dvs. de chat pe serverele sale și poate partaja aceste date cu un număr selectat de grupuri terțe.


În plus, lăsarea datelor dumneavoastră în siguranță OpenAI s-a dovedit a fi o problemă. În martie 2023, o încălcare a securității a însemnat că unii utilizatori de pe ChatGPT au văzut titluri de conversație în bara laterală care nu le aparțineau. Partajarea accidentală a istoricului de chat al utilizatorilor este o preocupare serioasă pentru orice companie de tehnologie, dar este deosebit de rău, având în vedere câți oameni folosesc popularul chatbot.

După cum a raportat Reuters, ChatGPT a avut 100 de milioane de utilizatori activi lunar numai în ianuarie 2023. În timp ce eroarea care a cauzat încălcarea a fost corectată rapid, Italia a interzis ChatGPT și a cerut să nu mai proceseze datele utilizatorilor italieni.

Trei lacăte deschise

Organizația de supraveghere a bănuit că reglementările europene privind confidențialitatea au fost încălcate. După ce a investigat problema, a cerut ca OpenAI să îndeplinească mai multe solicitări de restabilire a chatbot-ului.


OpenAI a rezolvat în cele din urmă problema cu autoritățile de reglementare, făcând mai multe modificări semnificative. Pentru început, a fost adăugată o restricție de vârstă, limitând utilizarea aplicației la persoanele de 18+ sau 13+ cu permisiunea tutorelui. De asemenea, și-a făcut politica de confidențialitate mai vizibilă și a oferit un renunțați la formularul Google pentru ca utilizatorii să-și excludă datele din antrenamentul sau să șteargă complet istoricul ChatGPT.

Aceste modificări reprezintă un început excelent, dar îmbunătățirile ar trebui extinse la toți utilizatorii ChatGPT.

S-ar putea să nu crezi că ți-ai partaja atât de ușor detaliile tale personale, dar suntem cu toții susceptibili la o lasătură, iar un bun exemplu în acest sens este modul în care un angajat Samsung a partajat informațiile companiei cu ChatGPT.

2. Preocupări legate de formarea ChatGPT și probleme de confidențialitate

După lansarea populară a ChatGPT, criticii au pus la îndoială cum și-a antrenat OpenAI modelul în primul rând.

Chiar și cu modificări îmbunătățite ale politicilor de confidențialitate ale OpenAI în urma unei încălcări a datelor, este posibil să nu fie suficient pentru a respecta Regulamentul general privind protecția datelor (GDPR), legea privind protecția datelor care acoperă Europa. La fel de TechCrunch rapoarte:


Nu este clar dacă datele cu caracter personal ale italienilor care au fost folosite pentru a-și antrena modelul GPT din punct de vedere istoric, adică atunci când a îndepărtat datele publice de pe Internet, au fost prelucrate pe o bază legală validă – sau, într-adevăr, dacă datele utilizate pentru a antrena modele anterior vor sau pot fi șterse dacă utilizatorii solicită ca datele lor să fie șterse acum.

Probabil că OpenAI a colectat informații personale atunci când a antrenat pentru prima dată ChatGPT. În timp ce legile din Statele Unite sunt mai puțin definitive, legile europene privind datele protejează datele cu caracter personal, indiferent dacă publică aceste informații în mod public sau privat.

Argumente similare împotriva datelor de instruire ChatGPT sunt exprimate de artiști care spun că nu au consimțit niciodată ca munca lor să fie folosită pentru a antrena un model AI. În același timp, Getty Images a dat în judecată Stability.AI pentru că a folosit imagini protejate prin drepturi de autor pentru a-și antrena modelele AI.

Cu excepția cazului în care OpenAI își publică datele de formare, lipsa de transparență face dificil să se știe dacă a fost făcut în mod legal. Nu știm detalii despre modul în care este antrenat ChatGPT, ce date au fost utilizate, de unde provin datele sau cum arată arhitectura sistemului în detaliu.


3. ChatGPT generează răspunsuri greșite

O oaie în fața unei table negre cu o ecuație matematică greșită afișată

Eșuează la matematică de bază, pare să nu răspundă la întrebări simple de logică și chiar va merge până la a argumenta fapte complet incorecte. După cum vor atesta oamenii de pe rețelele sociale, ChatGPT poate greși de mai multe ori.

OpenAI știe despre această limitare, scriind că: „ChatGPT scrie uneori răspunsuri care sună plauzibil, dar incorecte sau fără sens”. Această „halucinație” a faptelor și a ficțiunii, așa cum s-a menționat, este deosebit de periculoasă în ceea ce privește lucruri precum sfatul medical sau corectarea faptelor cu privire la evenimentele istorice cheie.


Inițial, ChatGPT nu a folosit internetul pentru a găsi răspunsuri, spre deosebire de alți asistenți AI, cum ar fi Siri sau Alexa, cu care poate fiți familiarizat. În schimb, a construit un răspuns cuvânt cu cuvânt, selectând cel mai probabil „semnal” care ar trebui să urmeze în funcție de pregătirea sa. Cu alte cuvinte, ChatGPT ajunge la un răspuns făcând o serie de presupuneri probabile, ceea ce face parte din motivul pentru care poate argumenta răspunsuri greșite ca și cum ar fi complet adevărate.

În martie 2023, ChatGPT a fost conectat la internet, dar s-a deconectat rapid din nou. OpenAI nu a dezvăluit prea multe informații, dar a spus că „ChatGPT Browse beta poate afișa ocazional conținut în moduri pe care nu le dorim”.

Funcția Căutare cu Bing s-a bazat pe instrumentul Microsoft Bing-AI, care a dovedit, de asemenea, că nu este pregătit să vă răspundă corect la întrebări. Când i se cere să descrie imaginea într-o adresă URL, ar trebui să admită că nu poate finaliza solicitarea. În schimb, Bing a descris în detaliu un ara roșu și galben – URL-ul, de fapt, arăta o imagine a unui bărbat așezat.

Rezultatele căutării Bing AI arată halucinații cu privire la descrierea unei imagini


Puteți vedea mai multe halucinații hilare în comparația noastră dintre ChatGPT vs Microsoft Bing AI vs. Google Bard. Nu este greu de imaginat că oamenii folosesc ChatGPT pentru a obține informații și fapte rapide, așteptându-se ca acele rezultate să fie adevărate. Dar până acum, ChatGPT nu reușește să se înțeleagă corect, iar colaborarea cu un motor de căutare Bing la fel de inexact nu a făcut decât să înrăutățească lucrurile.

4. ChatGPT are părtinire în sistemul său

ChatGPT a fost instruit cu privire la scrierea colectivă a oamenilor din întreaga lume, trecut și prezent. Din păcate, asta înseamnă că aceleași părtiniri în lumea reală pot apărea și în model.

S-a demonstrat că ChatGPT produce niște răspunsuri teribile care discriminează sexul, rasa și grupurile minoritare, pe care compania încearcă să le atenueze.

O modalitate de a explica această problemă este de a indica datele ca fiind problema, dând vina pe omenire pentru părtinirile încorporate în internet și nu numai. Dar o parte din responsabilitate revine și OpenAI, ai cărui cercetători și dezvoltatori selectează datele folosite pentru a antrena ChatGPT.


Încă o dată, OpenAI știe că aceasta este o problemă și a spus că abordează „comportamentul părtinitor” prin colectarea de feedback de la utilizatori și încurajându-i să semnalizeze rezultatele ChatGPT care sunt proaste, ofensatoare sau pur și simplu incorecte.

Având potențialul de a provoca rău oamenilor, ați putea argumenta că ChatGPT nu ar fi trebuit să fie eliberat public înainte ca aceste probleme să fie studiate și rezolvate. Dar o cursă pentru a fi prima companie care a creat cel mai puternic model AI ar fi fost suficientă pentru ca OpenAI să arunce prudența în vânt.

În schimb, un chatbot AI similar numit Sparrow – deținut de compania-mamă a Google, Alphabet – a fost lansat în septembrie 2022. Cu toate acestea, a fost ținut intenționat cu ușile închise din cauza unor preocupări similare de siguranță. Aproximativ în același timp, Facebook a lansat un model de limbaj AI numit Galactica, menit să ajute în cercetarea academică. Cu toate acestea, a fost rechemat rapid după ce mulți oameni l-au criticat pentru că a produs rezultate greșite și părtinitoare legate de cercetarea științifică.


5. ChatGPT ar putea lua locuri de muncă de la oameni

fetiță care se ține de mână cu robotul

Praful încă nu s-a așezat după dezvoltarea și implementarea rapidă a ChatGPT, dar asta nu a împiedicat ca tehnologia de bază să fie împletită în mai multe aplicații comerciale. Printre aplicațiile care au integrat GPT-4 se numără Duolingo și Khan Academy.

Prima este o aplicație de învățare a limbilor străine, în timp ce cea de-a doua este un instrument divers de învățare educațională. Ambele oferă ceea ce este în esență un tutor AI, fie sub forma unui personaj alimentat de AI cu care poți vorbi în limba pe care o înveți. Sau ca tutor AI care vă poate oferi feedback personalizat cu privire la învățare.

Acesta ar putea fi doar începutul ca AI să dețină locuri de muncă umane. Tipurile de locuri de muncă cele mai expuse riscului de AI includ design grafic, scriere și contabilitate. Când s-a anunțat că o versiune ulterioară a ChatGPT a promovat examenul de barou, obstacolul final pentru ca o persoană să devină avocat, a devenit și mai plauzibil că AI ar putea schimba forța de muncă în viitorul apropiat.


După cum a raportat GardianulCompaniile din domeniul educației au înregistrat pierderi uriașe pe bursele din Londra și New York, evidențiind perturbarea pe care AI o provoacă pe unele piețe la doar șase luni după lansarea ChatGPT.

Progresele tehnologice au dus întotdeauna la pierderea locurilor de muncă, dar viteza progreselor AI înseamnă că mai multe industrii se confruntă cu schimbări rapide. O secțiune transversală uriașă a locurilor de muncă umane văd AI filtrăndu-se la locul de muncă. Unele locuri de muncă pot găsi sarcini ușoare îndeplinite cu ajutorul instrumentelor AI, în timp ce alte posturi pot înceta să mai existe în viitor.

6. ChatGPT este o provocare pentru educație

Puteți cere ChatGPT să vă corecteze scrisul sau să subliniați cum să îmbunătățiți un paragraf. Sau poți să te îndepărtezi complet din ecuație și să îi ceri lui ChatGPT să scrie în locul tău.

Profesorii au experimentat cu introducerea temelor de engleză în ChatGPT și au primit răspunsuri mai bune decât ar putea face mulți dintre elevii lor. De la scrierea scrisorilor de intenție până la descrierea temelor majore dintr-o operă de literatură faimoasă, ChatGPT poate face totul fără ezitare.


ChatGPT explică temele din romanul Neuromancer de William Gobson

Asta ridică întrebarea: dacă ChatGPT poate scrie pentru noi, vor trebui studenții să învețe această abilitate în viitor? Poate părea o întrebare existențială, dar din moment ce studenții au început să folosească ChatGPT pentru a-și scrie eseurile, educatorii vor trebui în curând să se confrunte cu realitatea.

Deloc surprinzător, studenții experimentează deja cu AI. The Stanford Daily rapoartele că sondajele timpurii arată că un număr semnificativ de studenți au folosit inteligența artificială pentru a ajuta la teme și la examene.

Pe termen scurt, școlile și universitățile își actualizează politicile și stabilesc dacă studenții pot sau nu utiliza inteligența artificială pentru a-i ajuta cu o temă. Nu doar subiectele bazate pe engleză sunt în pericol; ChatGPT poate ajuta cu orice sarcină care implică brainstorming, rezumat sau tragerea de concluzii analitice.


7. ChatGPT poate provoca daune în lumea reală

Nu a trecut mult până când cineva a încercat să facă jailbreak ChatGPT, rezultând un model AI care ar putea ocoli balustradele OpenAI menite să împiedice generarea de text ofensator și periculos.

Un grup de utilizatori pe Grupul ChatGPT Reddit și-au numit modelul AI nerestricționat Dan, prescurtare de la „Do Anything Now”. Din păcate, a face orice îți place a făcut ca hackerii să intensifice înșelătoriile online. Hackerii au fost văzuți, de asemenea, vânzând servicii ChatGPT fără reguli care creează malware și produc e-mailuri de phishing, cu rezultate mixte asupra malware-ului creat de AI.

Încercarea de a descoperi un e-mail de phishing conceput pentru a extrage detalii sensibile de la tine este mult mai dificilă acum cu textul generat de AI. Erorile gramaticale, care au fost un steag roșu evident, sunt limitate cu ChatGPT, care poate scrie fluent tot felul de text, de la eseuri la poezii și, bineînțeles, e-mailuri suspecte.

Prim-plan al codului computerului pe un ecran


Rata cu care ChatGPT poate produce informații a cauzat deja probleme pentru Stack Exchange, un site web dedicat oferirii de răspunsuri corecte la întrebările de zi cu zi. La scurt timp după ce ChatGPT a fost lansat, utilizatorii au inundat site-ul cu răspunsuri pe care le-au cerut ChatGPT să le genereze.

Fără suficienți voluntari umani pentru a rezolva restanța, ar fi imposibil să se mențină un nivel ridicat de calitate a răspunsurilor. Ca să nu mai vorbim că multe dintre răspunsuri au fost incorecte. Pentru a evita deteriorarea site-ului, a fost interzisă toate răspunsurile generate folosind ChatGPT.

Răspândirea informațiilor false este, de asemenea, o preocupare serioasă. Amploarea la care ChatGPT poate produce text, împreună cu capacitatea de a face chiar și informații incorecte să sune în mod convingător corect, face ca totul pe internet să fie discutabil. Este o combinație critică care amplifică pericolele tehnologiei deepfake.

8. OpenAI deține toată puterea

Cu o mare putere vine o mare responsabilitate, iar OpenAI deține o parte echitabilă din ea. Este una dintre primele companii de AI care zguduie cu adevărat lumea cu nu unul, ci mai multe modele de IA generative, inclusiv Dall-E 2, GPT-3 și GPT-4.


Ca companie privată, OpenAI selectează datele folosite pentru a antrena ChatGPT și alege cât de repede lansează noile dezvoltări. În ciuda faptului că experții avertizează asupra pericolelor prezentate de AI, OpenAI nu dă semne de încetinire.

Dimpotrivă, popularitatea ChatGPT a stimulat o cursă între marile companii de tehnologie care concurează pentru a lansa următorul mare model de IA; printre acestea se numără Bing AI de la Microsoft și Bard de la Google. De teamă că dezvoltarea rapidă va duce la probleme serioase de siguranță, liderii tehnologici din întreaga lume au scris o scrisoare în care cer ca dezvoltarea să fie amânată.

ChatGPT explică dacă codul AI ar trebui făcut open source

În timp ce OpenAI consideră siguranța o prioritate ridicată, există multe lucruri pe care nu le știm despre cum funcționează modelele în sine, în bine și în rău. La sfârșitul zilei, singura alegere pe care o avem este să avem încredere fără îndoială că OpenAI va cerceta, dezvolta și utiliza ChatGPT în mod responsabil.


Indiferent dacă suntem de acord cu metodele sale sau nu, merită să ne amintim că OpenAI este o companie privată care va continua să dezvolte ChatGPT conform propriilor obiective și standarde etice.

Abordarea celor mai mari probleme ale AI

Există multe de care să fii entuziasmat cu ChatGPT, dar dincolo de utilizările sale imediate, există câteva probleme serioase.

OpenAI admite că ChatGPT poate produce răspunsuri dăunătoare și părtinitoare, sperând să atenueze problema prin colectarea feedback-ului utilizatorilor. Dar capacitatea sa de a produce text convingător, chiar și atunci când faptele nu sunt adevărate, poate fi folosită cu ușurință de actori răi.

Încălcările de confidențialitate și securitate au arătat deja că sistemul OpenAI poate fi vulnerabil, punând în pericol datele personale ale utilizatorilor. În plus, oamenii fac jailbreaking ChatGPT și folosesc versiunea nerestricționată pentru a produce malware și escrocherii la o scară pe care nu am mai văzut-o până acum.


Amenințările la adresa locurilor de muncă și potențialul de a perturba educația sunt încă câteva probleme care se acumulează. Cu o tehnologie nou-nouță, este dificil de prezis ce probleme vor apărea în viitor, dar, din păcate, nu trebuie să ne uităm prea departe. ChatGPT a produs partea echitabilă de provocări pe care le putem face față în prezent.

Echipa de Promovare UTOPIAN (@PromovareCuDavid ) ofera servicii de cresterea afacerilor, cresterea firmelor din Romania si nu numai prin realizarea de servicii la comanda, de la automatizari premium pentru procese repetitive, la crearea de siteuri web SI CRESTEREA LOR pe termen lung, ca sa ajungeti la cat mai multi oameni. Puteti folosi pagina noastra de SERVICII si pagina de CONTACT pentru detalii.

Lasa un comentariu