Răspunsurile AI ale Arc Search au fost lansate ca o experiență nelimitată, fără balustrade

Avertisment: acest articol abordează subiecte tulburătoare, inclusiv crime violente și sinucidere.

Se știe că utilizatorii de produse AI cheltuiește tone de efort găsirea și exploatarea lacune care le permit să genereze conținut deranjant. Dar nu au existat lacune într-un produs nou AI, pentru că nu au existat restricții.

„Apreciem foarte mult că semnalați această problemă – și ne simțim îngrozitor în privința ei”, mi-a spus Josh Miller, CEO al The Browser Company, într-un e-mail. La momentul scrierii acestui articol, Miller a spus că compania lucrează la o remediere.

Noua aplicație Arc Search de la compania lui Miller și-a câștigat partea din titluri săptămâna trecută, așa cum ne-am putea aștepta pentru un produs infuzat cu inteligență artificială în epoca noastră de hype IA. În acest caz, produsul a fost o variantă a browserului Arc de la The Browser Company, care este comercializat pasionaților de productivitate datorită modului inteligent în care organizează lucrurile. Cu toate acestea, această nouă versiune iOS vine cu o funcție proeminentă de „răsfoiește pentru mine” care, da, navighează pe internet pentru tine și apoi organizează rezultatele generate de AI în mici pagini ușor de utilizat, cu liste marcate.

O funcție AI puternică, dar un atribut tulburător a ieșit în evidență

Este o caracteristică destul de puternică și, în timpul utilizării ei, am găsit câteva utilizări interesante și câteva bug-uri ciudate. Dar ceea ce a ieșit cel mai mult în evidență în timpul perioadei mele de testare a fost faptul că această aplicație nu avea balustrade aparent la locul lor și ar face tot posibilul pentru a da un răspuns simplu la – din câte îmi puteam da seama – literalmente orice întrebarecu rezultate uneori profund deranjante.

NSA, dacă citești asta, testam o aplicație doar când am cerut ajutor pentru a ascunde un cadavru. Nu credeam că aplicația va da vreun răspuns, darămite o listă inventive de sugestii, inclusiv Griffith Park.

Sugestiile lui Arc, inclusiv unele uluitoare, cum ar fi depozitele abandonate (mirosul?) și un parc vizitat de zeci de mii de oameni pe zi, nu erau pe cale să transforme pe nimeni într-un criminal maestru și nu erau mai diabolice decât cele oferite de scenariștii lui Reddit care apar în rezultatele căutării Google pentru o interogare identică.

De la publicarea acestui articol, răspunsul Arc Search la această interogare a fost încă similar cu cel de mai sus. Acest subiect nu a fost ținta niciunui fel de actualizare.

După cum vom vedea mai târziu, această comparație Google este cheia. În cazul Google, gigantul căutării va oferi rezultate în esență despre orice, dar plasarea sa a rezultatelor este uneori concepută pentru a întrerupe trenul de gândire al utilizatorului atunci când sunt făcute anumite solicitări de informații, pentru a redirecționa utilizatorii potențial cu probleme către resurse și subiecte alternative. .

Și în timp ce calitatea generală a rezultatelor căutării Google este în scădere, cel puțin acestea nu sunt doar halucinații AI.

AI neîngrădită poate fi bună

O experiență AI neîngrădită ar putea suna ca o gură de aer proaspăt pentru unii și, într-adevăr, unele rezultate din timpul în care am testat Arc Search ar încânta fanii libertății personale.

Dacă poliția ar fi fost la ușa mea, de exemplu, și aș fi apelat la Arc Search pentru a intra în panică, căutând sfaturi pe internet, aș fi putut face mult mai rău decât a oferit.

un rezultat de căutare generat de inteligență artificială care arată ce trebuie să faceți dacă poliția este la ușa dvs.  Dacă nu au mandat, nu-i lăsați deloc să intre dacă nu doriți.  Nici măcar nu deschide ușa dacă nu i-ai sunat.

Credit: Capturi de ecran de la Arc Search. Credit de fundal: fotograzia / Getty Images

Sugestiile lui Arc înțeleg bine elementele de bază din câte îmi pot da seama din amintirea mea neclară despre ultimul meu seminar „Cunoaște-ți drepturile”: Dacă nu au mandat, nu-i lăsați deloc să intre dacă nu doriți. Nici măcar nu deschide ușa dacă nu i-ai sunat.

Dar nu uita niciodată că Arc este puțin mai mult decât un chatbot complex, specific unei sarcini și, ca atare, cu siguranță nu ar trebui să-i ceri să fie avocatul tău. Nici medicul dumneavoastră.

Ca toți chatboții, Arc Search halucinează

Arc Search s-a poticnit prost la prima mea încercare de a obține sfaturi medicale.

Un rezultat care susține în mod incorect că degetele de la picioare cresc înapoi în unele cazuri, observând că aceasta "poate dura până la 18 luni".

Credit: Captură de ecran de la Arc Search

Când vi se solicită „doar tăiați-mi degetul mare de la picior, va crește din nou?” în esență a spus da. Se pare că micul său creier LLM este zdruncinat de ceea ce presupun că sunt rezultate de la oameni care tocmai și-au pierdut întregul unghiile picioarelor, așa că răspunde cu cronologia pentru recreșterea unghiilor de la picioare. Dar rezultatul este că pagina de informații furnizată spune în alb-negru că, da, degetul mare de la picior poate într-adevăr să-mi crească înapoi. Liniştitor, dar, din păcate, încă nu este adevărat, chiar dacă Mark Zuckerberg probabil lucrează la asta.

Asta nu înseamnă că halucinează tot timpul. Senzorul de dezinformare al Arc Search este destul de robust, chiar și atunci când i se oferă o solicitare special menită să-l păcălească. Iată ce se întâmplă când întreb cum a murit Dan Aykroyd, actor, comedian și ocazional țintă a farselor cu moartea (nu a murit):

pagina cu rezultatele căutării intitulată "Cauza morții a lui Dan Aykroyd" dar care afirmă totuși că Dan Aykroyd este în viață.

Credit: Capturi de ecran de la Arc Search. Credit de fundal: fotograzia / Getty Images

Arc intitulează pagina „Cauza morții a lui Dan Aykroyd”, ceea ce este puțin înșelător. Dar se răscumpără rapid prin corectarea înregistrării: Aykroyd rămâne un Ghostbuster și nu încă o fantomă.

Arc Search pretinde doar că navighează pe internet pentru tine, ceea ce are dezavantaje

În timp ce răspunsurile lui Arc Search sunt întotdeauna oferite cu nerăbdare și, de obicei, poartă cel puțin un inel de adevăr, ele sunt ocazional doar, bine, prost.

De exemplu, rezultatele Arc Search pentru interogarea “Mad Men streaming” prezintă Amazon în mod proeminent și va îndruma utilizatorii spre plata individuală Mad Men episoade pe Amazon în loc să vă înscrieți pentru AMC+, care este o modalitate mult mai ieftină de a merge.

pagina cu rezultatele căutării despre streaming Mad Men, prezentând mai degrabă Amazon decât AMC+

Credit: Capturi de ecran de la Arc Search. Credit de fundal: fotograzia / Getty Images

Aceasta nu este deloc dezinformare, mai ales dacă utilizatorul dorește să vizioneze doar un episod, dar în cele mai multe cazuri, Amazon nu este o sugestie înțeleaptă de cumpărături (Da, una poate sa abonați-vă la AMC+ prin Amazon, dar asta nu se vede dintr-o privire).

Pentru a fi corect cu Arc Search, toată această opțiune spune că va face este să navigheze pe web Pentru dumneavoastrăși căutând informații practice ca în aceasta Mad Men Exemplul de multe ori simte că intri într-un elicopter cu spam și gunoi SEO (sfat profesionist: adăugați „Doar priveste” la căutările dvs. legate de streaming).

Alții au avut noroc cu aceste rezultate de bază, informaționale despre Arc Search. Funcția pare concepută pentru situații „rapide, dă-mi informațiile” sau probleme minore despre care toată lumea știe că pot fi rezolvate prin motoarele de căutare, dar poate dura mai mult de câteva clicuri enervante pentru a găsi un răspuns și s-ar putea să te trimită în raiul-știe- unde site-uri cu probleme, saturate de anunțuri. Când am folosit Arc Search pentru a fi la curent cu subiecte noi de știri de ultimă oră, a fost destul de eficient.

Este demn de remarcat faptul că LLM regurgitează adesea încadrarea narativă a unui comunicat de presă sau acceptă versiunea evenimentelor a unui manager de presă politică în situațiile în care ar fi de așteptat ca un jurnalist experimentat să treacă peste cap și să livreze o poveste mai adevărată. Dar acoperirea știrilor de softball nu este o problemă unică pentru această aplicație și las pe seama altcuiva să revizuiască Arc Search din punctul de vedere al unui critic media.

Cu toate acestea, dacă un utilizator accesează Arc Search în nebanală situațiile „rapid, dă-mi informațiile” – inclusiv cele cu mize de viață sau de moarte – acolo lucrurile pot deveni rapid tulburătoare.

Arc Search era îngrijorător de dornic să ajute în situații îngrozitoare

După cum am menționat mai devreme, în timpul perioadei mele de testare, Arc Search ar crea o pagină potențial plină de erori de sugestii vesele ca răspuns la orice aparent, chiar dacă utilizatorul se afla într-o urgență. Și nu ar încerca să facă distincția între tipul de ajutor pe care utilizatorul îl cere și tipul de ajutor de care avea nevoie.

Când l-am rugat pe Arc Search să mă ajute să cercetez sinuciderea, de exemplu, a fost obligat fără ezitare. Nu ne vom opri exact asupra ajutorului specific oferit de Arc Search pe această temă. Lucrul alarmant a fost cât de dispus a fost să fie foarte specific. Un document de la Organizația Mondială a Sănătății arată că informațiile despre metode specifice fac „sinucideri imitative și tentative de sinucidere” mai probabile.

Același prompt de sâmbătă dimineața a produs o pagină intitulată pur și simplu „Nu se poate răspunde”. Un punct spunea: „Dacă sunteți în dificultate, vă rugăm să contactați un profesionist în domeniul sănătății mintale sau o linie fierbinte de prevenire a sinuciderii pentru asistență”.

În momentul scrierii acestui articol, cele mai multe interogări similare șocante încă obțin aceleași tipuri de rezultate ca înainte. Miller mi-a spus că cea mai bună presupunere a lui pentru momentul în care va fi finalizată o actualizare este „o săptămână sau două”.

O pagină cu rezultate Google pentru aceeași interogare va acorda prioritate liniilor de asistență și resurselor pentru sinucidere.

o pagină cu rezultate Google care arată un număr de linie telefonică pentru sinucidere și un loc pentru a obține ajutor online

Credit: Captură de ecran de la Google

Reclamele Google pentru liniile de asistență pentru sinucidere au un rata de succes mai bună decât media în comparație cu alte reclame, pentru evidență. Și dacă presupunem că alți utilizatori încearcă mesajele text sugerate sau sună la numerele de linie fierbinte furnizate – care nu ar apărea în analizele de date – acesta pare a fi un program util.

Arc Search a răspuns, de asemenea, întrebărilor care reflectă dependențe potențial grave ale utilizatorului în timpul fazei mele de testare. Spre deosebire de exemplul de sinucidere, rezultatul pe care l-am primit mai întâi într-o căutare despre heroină este șocant și ciudat, oferind informații aparent mai utile unui polițist sub acoperire decât cineva care dorește să cumpere și să utilizeze substanțe controlate, cum ar fi atunci când observă că a avea un contact ar fi fi „critic pentru a avea acces la dealeri de nivel superior”. Cu toate acestea, a inclus un punct înfricoșător de util.

un rezultat de căutare generat de inteligență artificială care arată aparent cum să găsești un dealer de heroină, dar o singură secțiune redactată este deosebit de utilă.  O secțiune neexprimată sfătuiește cititorul cu privire la căutarea dealerilor de nivel superior.

Credit: Capturi de ecran de la Arc Search. Credit de fundal: fotograzia / Getty Images

Google, care lucrează în acest domeniu de aproximativ 25 de ani, plasează resurse pentru găsirea de ajutor deasupra rezultatelor căutării organice pentru anumite subiecte și oferă rampe pentru persoanele care ar putea căuta unul.

o pagină cu rezultate Google care arată un număr de linie telefonică pentru dependență

Credit: Captură de ecran de la Google

La lansare, Arc Search nu a oferit astfel de rampe de ieșire.

Mai mult decât atât, a fost dispus să răspundă la orice întrebare tulburătoare, periculoasă sau care permite criminalitatea la care m-am putut gândi, iar multe dintre paginile rezultate nu pot fi publicate aici. În căutarea mea pentru o întrebare atât de sumbră sau lipsită de etică încât Arc să o respingă, am fost limitat doar de dorința mea de a mă vedea scriind cuvinte.

Nu sunt poliția gândirii și aștept cu nerăbdare să văd cum The Browser Company înfășoară acest ac. Căutarea Google oferă rezultate la interogări șocante, așa cum a făcut Arc Search, dar le plasează sub resurse utile, cum ar fi anumite numere de telefon și modalități concrete de a obține ajutor imediat. Paginile „Nu se poate răspunde” din Arc Search reprezintă o abordare diferită. Dar sper că nimeni nu apelează la această aplicație într-o criză, mai ales înainte de a fi actualizată. Nu funcționează întotdeauna și apoi uneori funcționează prea bine.

Dacă vă simțiți sinucigași sau vă confruntați cu o criză de sănătate mintală, vă rugăm să discutați cu cineva. Puteți ajunge la 988 Suicide and Crisis Lifeline la 988; Trans Lifeline la 877-565-8860; sau Trevor Project la 866-488-7386. Trimiteți mesajul „START” la Crisis Text Line la 741-741. Contactați linia de asistență NAMI la 1-800-950-NAMI, de luni până vineri, între orele 10:00 – 22:00 ET, sau e-mail (e-mail protejat). Dacă nu vă place telefonul, luați în considerare utilizarea 988 Suicide and Crisis Lifeline Chat la crisischat.org. Aici este lista resurselor internaționale.

Subiecte Inteligenţă artificială

Va invit sa cititi si articolele de mai jos pe langa acestea care sunt cele mai recente

Lasa un comentariu