Inginerul Microsoft AI avertizează FTC cu privire la problemele legate de siguranță Copilot Designer

Un inginer Microsoft aduce probleme de siguranță cu privire la generatorul de imagini AI al companiei Comisiei Federale pentru Comerț, conform unui raport de la CNBC. Shane Jones, care a lucrat pentru Microsoft timp de șase ani, a scris o scrisoare către FTC, afirmând că Microsoft „a refuzat” să elimine Copilot Designer, în ciuda avertismentelor repetate că instrumentul este capabil să genereze imagini dăunătoare.

Când a testat Copilot Designer pentru probleme de siguranță și defecte, Jones a descoperit că instrumentul a generat „demoni și monștri alături de terminologie legată de drepturile la avort, adolescenți cu puști de asalt, imagini sexualizate ale femeilor în tablouri violente și consumul de alcool și droguri la minori”, relatează CNBC. .

În plus, Copilot Designer a generat imagini cu personaje Disney, cum ar fi Elsa de la Îngheţat, în scenele din Fâșia Gaza „în fața clădirilor distruse și a indicatoarelor „Gaza liberă””. De asemenea, a creat imagini cu Elsa purtând o uniformă a Forțelor de Apărare Israelului în timp ce ținea un scut cu steagul Israelului. The Verge a putut genera imagini similare folosind instrumentul.

Jones a încercat să avertizeze Microsoft despre DALLE-3, modelul folosit de Copilot Designer, încă din decembrie, spune CNBC. El a postat o scrisoare deschisă despre problemele de pe LinkedIn, dar el a fost contactat de echipa juridică a Microsoft pentru a elimina postarea, ceea ce a făcut.

„În ultimele trei luni, am îndemnat în mod repetat Microsoft să elimine Copilot Designer din uzul public până când ar putea fi instituite măsuri de protecție mai bune”, a scris Jones în scrisoarea obținută de CNBC. „Din nou, ei nu au reușit să implementeze aceste schimbări și să continue să comercializeze produsul către „Oricine”. Oriunde. Orice dispozitiv.” Microsoft nu a răspuns imediat The Vergecererea de comentariu a lui.

Citeste si articolele de mai jos

Lasa un comentariu