Opera revoluționează navigarea cu LLM-uri locale: adio dependență de Internet
April 12, 2024
Opera a anunțat astăzi o nouă funcție care le permite utilizatorilor să descarce și să utilizeze șabloane lingvistice de mari dimensiuni direct de pe computerul lor. Această caracteristică a fost introdusă inițial pentru utilizatorii Opera One care primesc actualizări din fluxul de dezvoltatori. Acum va fi posibil să se selecteze din peste 150 de șabloane din peste 50 de familii diferite, inclusiv Meta’s Llama, Google’s Gemma și Vicuna.
Avantajele utilizării LLM-urilor la nivel local
Utilizarea LLM-urilor la nivel local oferă numeroase avantaje pentru utilizatori. În primul rând, permite accesul la o selecție largă de modele de la terți direct în browser, fără a fi nevoie să se utilizeze instrumente online. În plus, modelele descărcate la nivel local pot fi testate și utilizate și offline, permițând utilizatorilor să lucreze mai eficient și fără a depinde de o conexiune stabilă la internet.
Potrivit lui Jan Standal, vicepreședinte al Opera,“Opera oferă pentru prima dată acces la o selecție largă de LLM-uride laterți direct în browser. Este deașteptat ca dimensiunea modelelor să se micșoreze pe măsură ce acestea vor deveni mai specializate pentru sarcini specifice‘.
Cum funcționează descărcarea și utilizarea LLM-urilor în Opera
Pentru a descărca și utiliza LLM-urile în Opera, utilizatorii trebuie să fie abonați la programul Opera AI Feature Drops, care le oferă acces în avanpremieră la unele dintre noile funcții bazate pe inteligență artificială. În prezent, Opera utilizează cadrul open source Ollama pentru a rula modele lingvistice pe computerul utilizatorului.
Modelele disponibile sunt o selecție din biblioteca Ollama, dar compania a anunțat că în viitor vor fi incluse modele din diferite surse. Este important de reținut că fiecare variantă a modelelor ocupă mai mult de 2GB de spațiu pe discul local, așa că este recomandabil să verificați spațiul disponibil pentru a evita să rămâneți fără spațiu de stocare.
Alte opțiuni de utilizare a șabloanelor lingvistice
Dacă doriți să economisiți spațiu pe discul local, există și alte opțiuni de utilizare a șabloanelor lingvistice online. De exemplu, sunt disponibile mai multe instrumente online, cum ar fi Poe de la Quora și HuggingChat, care vă permit să explorați diferite modele lingvistice fără a fi nevoie să le descărcați pe computer.
Alte funcționalități bazate pe inteligență artificială de la Opera
Opera a început să experimenteze cu funcțiibazate pe inteligență artificială încă de anul trecut. În luna mai, compania a lansat un asistent numit Aria în bara laterală a browserului și l-a introdus în versiunea pentru iOS în luna august. În ianuarie, Opera a anunțat că lucrează la un browser bazat pe inteligență artificială cu un motor propriu pentru iOS, ca răspuns la solicitările Actelor privind piața digitală (DMA) ale UE care cer ca Apple să elimine cerința privind motorul WebKit pentru browserele mobile.