El 18 de abril Meta ha presentado Llama 3, en sus palabras «la nueva generación de nuestro modelo de lenguaje a gran escala». 

Un importante paso adelante, acompañado de varias novedades, entre ellas la apuesta por el open source y la disponibilidad web de los modelos Llama 3 (aún no en España, y aún no en español), ya no dependemos solo de su integración en apps como WhatsApp, Instagram, Facebook o Messenger. Además, pronto estarán disponibles en AWS, Databricks, Google Cloud, Hugging Face, Kaggle, IBM WatsonX, Microsoft Azure, NVIDIA NIM y Snowflake, y con soporte de plataformas de hardware ofrecidas por AMD, AWS, Dell, Intel, NVIDIA y Qualcomm.

En los próximos meses prometen introducir nuevas funciones, ventanas contextuales más largas, tamaños de plantilla adicionales y un rendimiento mejorado, además de compartir el documento de investigación sobre Llama 3. Así mismo desde Meta prometen que en breve será capaz de entender imágenes y vídeos además de texto.

¿Cómo probar Llama 3?

Lo vas a poder utilizar en formato web, desde Meta.ai, de hecho en un formato muy parecido a ChatGPT o Gemini.

Pero… (no todo van a ser buenas noticias), por el momento solo se puede usar Meta.ai si estamos en Estados Unidos o alguno de los 13 países adicionales que han sido incluidos en el lanzamiento inicial: Australia, Canada, Ghana, Jamaica, Malawi, Nueva Zelanda, Nigeria, Pakistán, Singapur, Sudáfrica, Uganda, Zambia, y Zimbabwe.

Mediante VPN sí podrás probar Meta, simulando que navegas desde uno de estos países. Eso sí, lo tendrás que hacer en inglés, de momento no está disponible en español, como antes indicábamos.

Desde bots.blog podemos afirmar que el comportamiento es ya muy avanzado, y ha mejorado, aunque sin llegar al nivel de GPT 4. Un punto muy a su favor es la velocidad de generación de la respuesta. Esperemos que también mejore en el uso por API, verdaderamente es un fallo relevante cuando empleamos GPT a través de API, los tiempos de espera dañan la dinámica conversacional de forma muy relevante (tengamos en cuenta que en el uso por API ni siquiera vamos viendo la generación progresiva de la respuesta como ocurre en el uso por web).

Costes

Se desconoce cuál será el coste del uso de Llama 3 a través de API. Hablan de Opensource pero en la explotación a través de plataformas como Google o AWS sin duda tendrá coste. La esperanza es que esta competencia tire de los costes hacia abajo, aún demasiado altos desde nuestro punto de vista en GPT.

Más seguridad

Meta ha incluido nuevos componentes para mejorar la seguridad: componentes actualizados con Llama Guard 2 y Cybersec Eval 2, y la introducción de Code Shield, una barrera en tiempo de inferencia para filtrar el código inseguro producido por los LLM.

El origen de las mejoras

Una de las claves en las mejoras de Llama 3 ha sido la expansión significativa de su conjunto de datos de entrenamiento: 15 trillones de tokens. Este volumen es aproximadamente siete veces mayor que el utilizado para los modelos Llama 2. Llama 3 utiliza un tokenizador con un vocabulario de 128.000 tokens que codifica el lenguaje de forma mucho más eficiente, lo que mejora sustancialmente el rendimiento del modelo. Para mejorar la eficacia de inferencia de los modelos de Llama 3, han adoptado la atención a consultas agrupadas (GQA) en los tamaños 8B y 70B. Entrenamos los modelos en secuencias de 8.192 tokens, utilizando una máscara para garantizar que la autoatención no cruce los límites del documento.

Expectantes

Así pues, grandes novedades, con limitaciones aún para el mercado español, pero que poco a poco irán llegando, revolucionando el entorno LLM y obligando a mover ficha a sus competidores.

La entrada Meta presenta Llama 3 para competir con GPT, Gemini y Claude se publicó primero en bots.blog_.

Hoy te vamos a ayudar a familiarizarte con una tecnología que aún no es muy conocida, pero está llamada a convertirse en una de las claves en la comunicación con clientes. El Canal RCS (Rich Communication Services) y su extensión, el RBM (Rich Business Messaging), emergen como herramientas revolucionarias que están transformando la forma en que las empresas se comunican con sus clientes.

Van a suponer una inmensa oportunidad en la relación con tus clientes, si bien hay un par de condicionantes que aún están limitando su uso extensivo, principalmente la apertura al entorno IOS de Apple. Te lo contamos todo aquí.

¿Qué es el Canal RCS?

El Canal RCS es mucho más que un simple sucesor del SMS. Es una plataforma de mensajería enriquecida que permite a las empresas interactuar con sus clientes de una manera más personalizada y efectiva. Con el Canal RCS, las empresas pueden enviar mensajes multimedia, compartir ubicaciones, realizar encuestas y mucho más, todo dentro de una conversación fluida y dinámica.

¿Qué es RBM?

Por su parte, RBM, es una extensión del Canal RCS que permite a las empresas crear mensajes interactivos y personalizados para sus clientes. Con RBM, las empresas pueden integrar chatbots, facilitar pagos y transacciones, recopilar feedback y mucho más, todo dentro de la misma conversación.

La buena noticia

Imagina que eres el propietario de un restaurante y quieres promocionar un evento especial para el Día de San Valentín. Con el Canal RCS, puedes enviar mensajes interactivos a tus clientes con detalles sobre el menú, opciones de reserva y enlaces directos para confirmar su asistencia. Además, puedes incluir imágenes de platos tentadores y promociones exclusivas para crear un impacto aún mayor. Y, por si fuera poco, puedes integrar chatbots para proporcionar respuestas automáticas.

A través de RCS y RBM, las empresas pueden ofrecer una experiencia de comunicación más personalizada y relevante para sus clientes, aumentando la lealtad y la satisfacción del cliente, al mismo tiempo que mejoran la eficiencia operativa al consolidar todas las interacciones en una sola plataforma. Por otro lado, al ofrecer mensajes más ricos y atractivos, este nuevo canal puede ayudar a las empresas a aumentar las tasas de conversión. Y todo ello, sin necesidad de que el usuario instale aplicaciones, ya que permite hacer uso de ello desde cualquier móvil y sin necesidad de registrarte en ningún sitio.

Dado que se trata de un estándar y no de una nueva aplicación, las operadoras y fabricantes de teléfonos tienen la capacidad de desarrollar sus propias aplicaciones para implementar esta tecnología, que vendrá con cada teléfono, al igual que los desarrolladores de terceros. La ventaja es que todas estas aplicaciones al seguir el mismo estándar serán compatibles entre sí, lo que garantiza una interoperabilidad sin problemas para el envío de mensajes.

Sin embargo…

De momento estos mensajes carecerán de cifrado de extremo a extremo, lo que los hace vulnerables, permitiendo la lectura por parte de operadoras o gobiernos.

Además, aunque el RCS ya es una realidad en los dispositivos Android, Apple aún no lo ofrece, pero ha anunciado que durante el 2024 empezará a implementarlo en iMessage.

La entrada El futuro ya muy próximo del SMS: RBM y RCS se publicó primero en bots.blog_.