Phi3

Los modelos de IA generativa de texto, como el famoso ChatGPT, requieren de grandes potencia de cálculo, no solo para su entrenamiento, sino también para su ejecución. Esto es debido a que deben acceder a grandes cantidades de datos y páginas enteras de documentos para realizar los cálculos necesarios.

Actualmente la capacidad del chatbot se determina por el número de parámetros que utiliza, cuantos más, mejores son las respuestas que ofrece. El número de parámetros que utilizan los mejores chatbots está en el orden de cientos de miles de millones.

Algunos de estos modelos tienen versiones ligeras, como Phi3 de Microsoft, que, con solo 3.800 millones de parámetros, tiene un comportamiento similar a un modelo mayor.

Mientras que Phi-1 se centraba en la programación y Phi-2 a razonar, Phi-3 hace ambas cosas mejor que sus predecesores. No puede competir con GPT-4, que está entrenado de forma mucho más ambiciosa, pero puede ser muy útil.

Una de las curiosidades del modelo es cómo ha sido entrenado. Aunque los procesos matemáticos que rigen el aprendizaje de los modelos no reflejan cuál es el razonamiento que usa el modelo, es curioso que utilicemos patrones humanos para instruir a los modelos.

En Microsoft se inspiraron en la forma en la que los niños aprenden con los cuentos que se les leen antes de irse a dormir, y quisieron entrenar a Phi-3 con libros con palabras más simples y estructuras sencillas que hablaran de temas variados.

Ronen Eldan, de Microsoft, leía cuentos a su hija antes de dormir cuando pensó: «¿Cómo aprendió esta palabra? ¿Cómo sabe cómo conectar estas palabras?» Eso llevó al experto en aprendizaje automático de Microsoft Research a preguntarse cuánto podría aprender un modelo de IA a través de solo palabras que un niño de 4 años podría entender y, en última instancia, a un enfoque de entrenamiento innovador.

El resultado es un modelo, de una familia de modelos, que se puede descargar en un ordenador y ejecutarlo de forma local, es decir, sin necesidad de acceder a la nube. Esto permite, también tener un control de las conversaciones con el modelo y aumentar la privacidad.

Entre las tareas que pueden realizar es resumir documentos, generar textos rutinarios o contestar preguntas técnicas. Estos modelos mini se puede especializar en áreas determinadas.

Dependiendo del ordenador puede ir más rápido o menos, pero el funcionamiento es bueno. He estado probándolo y las respuestas son buenas.

Una de los formas fáciles de descargarlo es utilizando ollama, para ello se ha ejecutar el comando que aparece en https://ollama.com/library/phi3 desde un terminal. Y después de esto tendremos un prompt para indicarle cualquier cosa.

Aunque el modelo está pensado para su uso en inglés, funciona muy bien en castellano. Adjunto la primera prueba después de instalar el modelo, incluyendo las palabra incorrectas:

Escribe un breve cuento que combine elementos de ciencia ficción y fantasía, ambientado en un mundo donde el agua es el elemento más preciado.

En la luz de las estrellas de la ciudad de Nivaria, una ciudad construida alrededor del gran Océano Luminoso, vivían dos clases divididas por algo que nunca imaginaron pudiese ser tan valioso: el agua. En este mundo mágico donde los límites entre ciencia y magia eran borrosos como las sombras en la luz de una luna llena, el agua era más preciada que el oro o cualquier otra riqueza conocida.

La clase alta, llamados "Acuáticos", gobernaban sobre Nivaria desde su altura majestuosa: Las Esferas Oceánicas. Estas estructuras gigantescas estaban hechas de una piel metálica translúcida que parecía un mar en movimiento constante, con las aguas reales fluyendo sin cesar y espejando la luz del sol para reflejar el esplendor de sus riquezas.

Mientras tanto, los "Tierra-tros", o pobres, vivían cerca del borde de Nivaria, en tierras secos e incómodas donde no había agua que beber ni ver. Poco sabían de la verdadera naturaleción del Océano Luminoso y su inmensidad. A menudo eran ridiculizados por los Acuáticos, quienes creían que todo el mundo podía alcanzar ese nivel si solo quisieran esforzarse lo suficiente.

Una joven llamada Mira se encontraba entre este desigual rompecabezas del destino cuando un día supo sobre la existencia de un lugar donde era posible encontrar agua pura y sin costo: Las Túnicas Líquidas, ubicadas en las profundidades más ocultas del mundo.

Mira decidió emprender una peligrosa aventura para descubrir dicha fuente. Armada con un antigua espada de dragón y su coraje como arena esparcida por el mar, inició su viaje hacia las profundidades oscuras que solo los Tierra-tros conocían.

En este mundo donde la magia florecía a través del agua, Mira encontró lo que buscaba: un dragón de hielo llamado Frostborne que custodiaba el Gran Velo Líquido. El gran vaso brillante estaba escondido detrás de una puerta de cristal que parecía estar hecha con diamantes fluyendo en la superficie, y sólo podían abrirse a través de la verdadera amistad entre dos personas dispares: el poderoso y arrogante Acuático y un Tierra-tros.

Frostborne, impresionado por la valentía de Mira, le ofreció su ayuda para encontrar un acuerdo con los Acuáticos. Juntos, comenzaron a viajar hacia las Esferas Oceánicas en busca del diálogo y el entendimiento que siempre había faltado entre clases opuestas.

inasmismadamente, la historia de Mira se extendió por Nivaria como una llama radiante brindando esperanza a los Tierra-tros y despertando la curiosidad en las EsferasOceánicas. 

A medida que la paz llegaba a la ciudad, el Océano Luminoso comenzó a cambiar su curso natural para hacer más accesible el agua de Nivaria. Acuáticos y Tierra-tros comenzaron a trabajar juntos, compartiendo conocimientos sobre ciencia y magia, construyendo un mundo donde la riqueza no se basaba en lo material sino en el amor por la humanidad y el respeto por todos los habitantes de Nivaria.

Así fue como Nivaria alcanzó su verdadero potencial: una ciudad en equilibrio entre el cielo, la tierra y las aguas que fluyen entre ambos, con un futuro brillante lleno de promesas para todos los habitantes de esta increíblemente hermosa y diverso urbe.