Superinteligencia artificial
Tiempo de lectura: 2 minutos
OpenAI trabaja en una nueva tecnología del proyecto Q*, que ahora pasa a tener el nombre en clave Strawberry, según filtraciones que publica Reuters.
Filtraciones de OpenAI
Se han publicado dos artículos muy interesantes sobre el desarrollo de IA de OpenAI en base a unas filtraciones. No son rumores, sino que es información que alguien ha destapado, siendo del todo confidencial... o tal vez no.
Según el artículo de Bloomberg, OpenAI ha definido el camino hacia el desarrollo de una superinteligencia. Para ello se han definido cinco niveles que definen es estado de evolución de la IA. Si nos preguntamos en qué nivel están los modelos actuales, entonces nos quedamos en el primero.
El estado actual de la IA es de tener capacidad conversacional, mejor o peor, con capacidad multimodal, que nos puede parecer que tengan capacidad de razonamiento, pero que sabemos que no es realmente así. Cualquier capacidad de razonamiento es aprendida, no inducida. Recordemos que se trata de un algoritmo que predice el siguiente token que ha de mostrar en base a la información previa generada.
Etapas de la Inteligencia artificial
Nivel 1
Chatbots, IA con capacidad de conversación en lenguaje natural. Los modelos actuales.Nivel 2
Razonadores, solucionan problemas a nivel humano. Tienen capacidad de razonar para buscar soluciones.Nivel 3
Agentes, sistemas que pueden llevar a cabo acciones. Además de razonar, los agentes tendrían capacidad de decidir qué acciones se han de llevar a cabo para solucionar un problema.Nivel 4
Innovadores, IA que puede ayudar en la creatividad. Aquí las IAs han de poder ser creativas y colaborar en proyectos de creación. Esto ya empieza a ser un poco difuso.Nivel 5
Organizaciones, La IA puede hacer el trabajo de toda una empresa con múltiples perfiles. No está muy claro qué capacidades son estas, pero ellos definen una capacidad de trabajo muy superior a la humana.El proyecto Strawberry
Conocíamos el proyecto secreto Q*, en el que la IA es capaz de dar respuestas científicas de alta calidad, incluyendo razonamiento matemático. Estos modelos no se han publicado.
Parece ser que el proyecto Q* evoluciona al proyecto Strawberry. En este proyecto, indica el artículo de Reuters, se están desarrollando IAs que sean capaces de entender el mundo humano. Esta base ha de servir para desarrollar un razonamiento certero, anticipando el funcionamiento del mundo.
Nuevas técnicas
Para conseguir modelos con capacidad de razonamiento, se ha desarrollado una nueva técnica que pretende realizar un post-entrenamiento de modelos ya entrenados. Vendría a ser como crear una IA con capacidad de lenguaje y, posteriormente, enseñarle a aprender el funcionamiento del mundo humano. U otro tipo de mundo.
Este post-entrenamiento sería el aprendizaje para realizar tareas que requieren una planificación, de manera que puedan simular los siguientes pasos y llegar a la solución final.
También se hace referencia a modelos que puedan tener capacidad de investigación, sobre todo como ingenieros de software para ayudar en el desarrollo de nuevas inteligencias artificiales.
Vale, si lo piensas un poco, esto sí que da miedo.
