Copilot AI de la Microsoft se pregătește să funcționeze local pe viitoare PC-uri, spune Intel

Copilot AI de la Microsoft ar putea rula în curând local pe computere, mai degrabă decât să se bazeze pe cloud.

Intel a spus lui Tom’s Hardware că chatbot-ul ar putea rula pe viitoare PC-uri compatibile cu AI care ar trebui să încorporeze unități de procesare neuronală (NPU) capabile să depășească 40 de trilioane de operațiuni pe secundă (TOPS) – un nivel de performanță care nu a fost încă egalat de niciun procesor de consum disponibil în prezent.

Intel a menționat că aceste computere AI ar fi echipate pentru a gestiona „mai multe elemente Copilot” direct pe mașină. Copilot se bazează în prezent pe procesarea în cloud pentru majoritatea sarcinilor, ceea ce duce la întârzieri vizibile, în special pentru solicitările minore. Îmbunătățirea puterii de calcul locale este de așteptat să reducă astfel de întârzieri, sporind potențial performanța și confidențialitatea.

Intel nu a răspuns imediat unei solicitări de comentarii din partea Computerworld.

Copilotul pe computer

După cum s-a raportat anterior, utilizarea Copilot pe Windows 11, ChatGPT, Adobe Firefly sau instrumente genAI similare nu procesează de fapt sarcinile pe computer, ci mai degrabă în centre de date la distanță folosind resurse și energie electrică semnificative. Deși este posibil să rulați aplicații precum modelul Stable Diffusion text-to-image sau modelul de limbă Llama la nivel local, obținerea unor rezultate de înaltă calitate necesită, de obicei, un computer cu capacități de procesare substanțiale, în special un GPU de mare viteză, căutat anterior pentru minerit de criptomonede. .

Progresele recente în hardware, în special includerea unităților de procesare neuronală în cele mai recente cipuri Intel Meteor Lake și ofertele AMD, au stârnit discuții despre PC-urile alimentate cu AI. Aceste NPU, concepute ca componente dedicate, cu putere redusă, urmăresc să faciliteze execuția locală a modelelor AI generative, sporind eficiența procesării AI. Se așteaptă ca NPU-urile să devină o caracteristică standard în viitoarele PC-uri, permițând sarcinilor genAI să funcționeze fără probleme în fundal, chiar și cu alimentarea bateriei.

De exemplu, cel mai recent motor AI al MSI recunoaște activitățile laptopului și ajustează automat profilul bateriei, viteza ventilatorului și setările ecranului pentru a se potrivi sarcinii tale. Când joci, crește performanța la maximum; treceți la lucrul cu documente Word și apelează totul înapoi.

AI în mișcare

Tendința locală AI nu se limitează la computere. De exemplu, smartphone-urile Pixel 8 și Pixel 8 Pro de la Google sunt echipate cu cipul Tensor G3, despre care Google susține că creează scena pentru AI generativă pe dispozitiv. Această tehnologie acceptă deja funcționalități bazate pe inteligență artificială, cum ar fi rezumatul audio în aplicația Recorder și generarea de răspuns inteligent pe tastatura Gboard. Cu toate acestea, în ciuda acestor progrese, un astfel de hardware nu este în prezent capabil să ruleze modele AI extinse precum Bard AI, Copilot sau ChatGPT de la Google la nivel local. În schimb, aceste dispozitive rulează modele mai compacte.

Un beneficiu al procesării AI locale este că ar putea îmbunătăți securitatea cibernetică. Consultantul în securitate cibernetică John Bambenek a subliniat că un risc semnificativ pe care îl întâmpină companiile atunci când integrează AI în sarcinile de proprietate intelectuală este gestionarea fluxului de date și a accesului.

„Am văzut suficiente încălcări ale serviciilor cloud de la terți pentru a ști că, chiar și cu promisiuni, datele se pot pierde”, a adăugat el. „Dacă organizațiile pot face Copilot AI de la Microsoft la nivel local, CISO-ii încă simt că au controlul asupra datelor lor și va elimina ceea ce este probabil cel mai mare obstacol în calea adoptării.”

Drepturi de autor Cititi mai multe informatii interesante mai jos!


Va invit sa cititi si articolele de mai jos pe langa acestea care sunt cele mai recente

Lasa un comentariu