Está de moda decir que trabajas con LLMs (Lenguajes de Modelado de Lenguaje) y que usas IA (Inteligencia Artificial) en tus proyectos de desarrollo de negocio.

Pero una cosa es decirlo y otra cosa es hacerlo. Hacerlo con sentido, que en el mundo de la empresa viene a significar hacerlo de tal manera que aporte valor a la empresa, al modelo de negocio.

En el caso de una empresa de desarrollo de software como taniwa siempre nos planteamos el valor que aporta para nosotros o para un cliente (o para un usuario final) cualquier trabajo que hacemos. La validación final de un sistema descansa realmente en encontrar alguien al que le merezca la pena pagar por él.

Si nadie quiere pagar, estamos jugando todavía.

Con los LLM hay mucho juego - y en juego viendo lo que están apostando empresas como Microsoft, Google o Amazon) - pero no se encuentran referencias, proyectos, que ilustren el valor aportado y sobretodo el valor devuelto, el famoso ROI (Return of Investment).

Vamos a explicar por qué está pasando esto:

• Los LLMs son tontos En realidad un LLM lo que sabe es completar frases, completar textos. Está entrenado para que le pases un texto y te devuelva otro texto relacionado con el primero. Nada más. Por eso es importante que en el texto le pases un buen contexto de lo que quieres. Pero no sabe de matemáticas, no sabe de física, no sabe de química, no sabe de nada, sabe completar frases en un contexto.

• Los LLMs son… ¿generativos? ¿Contratarías a una persona cuya principal característica es ser generativa? Puede ser hasta contraproducente ¿no? Puede tener su papel, pero si le pones a cargo de generar noticias sobre el mundo inmobiliario, va a generarlas pero… ¿dejarías que publicara sin supervisión?

• Los LLMs no son precisos Son generativos, no precisos. Si le pides a un LLM que multiplique 7271652376532 por 8973298732873 te va a dar una respuesta. Pero no va a ser la correcta. O sí, pero no lo sabes.

• Los LLMs no saben resolver problemas En algunos casos puede parecer que sí saben, pero en realidad han generado un texto probable, dada la formulación de un problema. No ha inferido nada.

• Los LLMs están limitados en su memoria de contexto No le puedo hacer una pregunta sobre el Quijote y pasarle todo el texto dentro de la pregunta. Tengo que seleccionar qué le paso y que no, y por lo tanto estoy sesgando la información que acompaña la pregunta.

• Los LLMs están de moda. Todos hablan de ellos, todas quieren ponerse la medalla de trabajar o liderar un proyecto así. Esto mete mucho ruido y te encuentras información muy superficial que confunde a los interlocutores.

Entonces, ¿Cuándo usar LLMs?

A ver los LLMs molan mucho, sus capacidades generativas son fenomnales para generar textos, para completar textos, para generar textos a partir de otros y pueden aplicarse en situaciones como:

• Hazme un resumen de un tema y dime los puntos fundamentales.
• Ayúdame a trazar un plan para “conquistar el mundo”.
• Ayúdame a generar un texto que me ayude a vender un producto.

Nuestros 2 consejos para usar LLMs son:

1. Úsalos como una pieza más de un sistema más complejo, con más piezas.
2. Si hay otra pieza que hacer mejor una tarea cocreta, usa esa otra pieza y no un LLM.

Si tienes un chatbot genérico que da soporte a tus usuarios matemárticos vas a necesitar:

1. Una pieza como Wolfram Alpha para resolver problemas matemáticos. No un LLM.
2. Una pieza entre el LLM y el usuario que guarde el contexto de la conversación y que permita al usuario volver a un punto anterior de la conversación. El LLM no sabe hacer eso.
3. Un base de datos que tenga trozos de los documentos relevantes para el usuario. El LLM no sabe hacer eso.
4. Un sistema de creación de contexto para el LLM desde preguntas a tus documentos.

LangChain - por ejemplo - lo tiene claro, y nos ofrece componentes que combinar con LLMs para crear sistemas que sí sean fiables, certeros y aporten valor.

Antes de preguntar a tu LLM, puedes ir a la WikiPedia, además mirar el tiempo, pasar de grados Fahrenheit a grados Celsius con una calculadora, y con eso crear un contexto para el LLM que te ayude a resolver tu problema.

Además un LLM es lento y es caro. Si lo que quiero es una calculadora de números enteros, lo mejor es tener una pieza especilaizada que lo hará muuucho más rápido y muuucho más barato.

Nosotros sí tenemos referencias de proyectos que usan LLMs y si crees que podemos ayudarte a diseñar o a entender un problema y su encaje en este mundo generativo, no dudes en contactar con nosotros en hola@taniwa.es