Intelligence

Phi3


Temps de lectura: 4 minuts


Mini models que es poden executar de manera local amb bona capacitat de generació de text.



Models mini

Els models d'IA generativa de text, com el famós ChatGPT, requereixen grans potències de càlcul, no només per al seu entrenament, sinó també per a la seva execució. Això és degut a que han daccedir a grans quantitats de dades i pàgines senceres de documents per realitzar els càlculs necessaris.

Actualment la capacitat del chatbot es determina pel nombre de paràmetres que utilitza, com més, millors són les respostes que ofereix. El nombre de paràmetres que utilitzen els millors chatbots és a l'ordre de centenars de milers de milions.

Phi3

Alguns d'aquests models tenen versions lleugeres, com ara Phi3 de Microsoft, que, amb només 3.800 milions de paràmetres, té un comportament similar a un model més gran.

Mentre que Phi-1 se centrava en la programació i Phi-2 a raonar, Phi-3 fa les dues coses millor que els seus predecessors. No pot competir amb GPT-4, que està entrenat de manera molt més ambiciosa, però pot ser molt útil.

Entrenament

Una de les curiositats del model és com ha estat entrenat. Tot i que els processos matemàtics que regeixen l'aprenentatge dels models no reflecteixen quin és el raonament que fa servir el model, és curiós que utilitzem patrons humans per instruir els models.

A Microsoft es van inspirar en la manera com els nens aprenen amb els contes que se'ls llegeixen abans d'anar a dormir, i van voler entrenar Phi-3 amb llibres amb paraules més simples i estructures senzilles que parlessin de temes variats.

Ronen Eldan, de Microsoft, llegia contes a la seva filla abans de dormir quan va pensar: «Com va aprendre aquesta paraula? Com sap com connectar aquestes paraules?» Això va portar l'expert en aprenentatge automàtic de Microsoft Research a preguntar-se quant podria aprendre un model d'IA a través de només paraules que un nen de 4 anys podria entendre i, en darrer terme, a un enfocament d'entrenament innovador.

El resultat és un model d'una família de models que es pot descarregar en un ordinador i executar-lo de manera local, és a dir, sense necessitat d'accedir al núvol. Això permet també tenir un control de les converses amb el model i augmentar la privadesa.

Què pot fer

Entre les tasques que poden fer és resumir documents, generar textos rutinaris o contestar preguntes tècniques. Aquests models mini es poden especialitzar en àrees determinades.

Depenent de lordinador pot anar més ràpid o menys, però el funcionament és bo. He estat provant-ho i les respostes són bones.

Descàrrega

Una de les formes fàcils de descarregar és utilitzar ollama, per a això s'ha d'executar l'ordre que apareix a https://ollama.com/library/phi3 des d'un terminal. I després d'això tindrem un prompt per indicar qualsevol cosa.

curl -fsSL https://ollama.com/install.sh | sh
ollama run phi3

Tot i que el model està pensat per utilitzar-lo en anglès, funciona molt bé en castellà. Adjunto la primera prova després d'instal·lar el model, incloent les paraula incorrectes:

Prompt

Escriu un conte breu que combini elements de ciència ficció i fantasia, ambientat en un món on l'aigua és l'element més preat.

Text generat

A la llum de les estrelles de la ciutat de Nivària, una ciutat construïda al voltant del gran Oceà Lluminós, hi vivien dues classes dividides per una cosa que mai no es van imaginar podria ser tan valuós: l'aigua. En aquest món màgic on els límits entre ciència i màgia eren borrosos com les ombres a la llum d'una lluna plena, l'aigua era més preuada que l'or o qualsevol altra riquesa coneguda.

La classe alta, anomenats "Aquàtics", governaven sobre Nivaria des de la seva altura majestuosa: Les Esferes Oceàniques. Aquestes estructures gegantines estaven fetes d'una pell metàl·lica translúcida que semblava un mar en moviment constant, amb les aigües reals fluint sense parar i mirant la llum del sol per reflectir l'esplendor de les seves riqueses.

Mentrestant, els "Terra-tros", o pobres, vivien prop de la vora de Nivaria, a terres seques i incòmodes on no hi havia aigua per beure ni veure. Poc sabien de la veritat naturalització de l'Oceà Lluminós i la seva immensitat. Sovint eren ridiculitzats pels Aquàtics, que creien que tothom podia assolir aquest nivell si només volguessin esforçar-se prou.

Una jove anomenada Mira es trobava entre aquest desigual trencaclosques del destí quan un dia va saber sobre l'existència d'un lloc on era possible trobar aigua pura i sense cost: Les Túniques Líquides, ubicades a les profunditats més ocultes del món.

Mira va decidir emprendre una perillosa aventura per descobrir aquesta font. Armada amb un antiga espasa de drac i el seu coratge com a sorra escampada pel mar, va iniciar el seu viatge cap a les profunditats fosques que només els Terra-tres coneixien.

En aquest món on la màgia floria a través de l'aigua, Mira va trobar el que buscava: un drac de gel anomenat Frostborne que custodiava el Gran Vel Vel Líquid. El gran got brillant estava amagat darrere d'una porta de vidre que semblava estar feta amb diamants fluint a la superfície, i només podien obrir-se a través de la veritable amistat entre dues persones dispars: el poderós i arrogant Aquàtic i un Terra-tros.

Frostborne, impressionat per la valentia de Mira, li va oferir la seva ajuda per trobar un acord amb els Aquàtics. Junts, van començar a viatjar cap a les Esferes Oceàniques buscant el diàleg i l'enteniment que sempre havia faltat entre classes oposades.

inasmateix, la història de Mira es va estendre per Nivaria com una flama radiant brindant esperança als Terra-tros i despertant la curiositat a les Esferes Oceàniques.

A mesura que la pau arribava a la ciutat, l'Oceà Lluminós va començar a canviar el curs natural per fer més accessible l'aigua de Nivaria. Aquàtics i Terra-tres van començar a treballar junts, compartint coneixements sobre ciència i màgia, construint un món on la riquesa no es basava en allò material sinó en l'amor per la humanitat i el respecte per tots els habitants de Nivaria.

Així va ser com Nivaria va aconseguir el seu veritable potencial: una ciutat en equilibri entre el cel, la terra i les aigües que flueixen entre tots dos, amb un futur brillant ple de promeses per a tots els habitants d'aquesta increïblement bonica i divers urbs.

Referències

Comentaris sobre 'Phi3'

Carregant comentaris...
Més articles




Xavier és un desenvolupador sènior full stack i opera des de la ciutat mediterrània de Barcelona. Li encanten les tecnologies de programari i està convençut que el desenvolupament de software és un procés col·laboratiu i obert.
I és un apassionat de l'astronomia i la fotografia. El pots trobar a:
Comparteix aquest post