Según Google, su nueva IA aborda los problemas más apremiantes de la humanidad, si se combina con otras herramientas. Gemma 2 está optimizado para ejecutarse a gran velocidad en potentes portátiles para juegos, PCs de alta gama y con mucha precisión en Google AI Studio. Novedades de Gemma 2.

Gemma 2 ya está disponible para investigadores y desarrolladores ofreciendo según Google, el mejor rendimiento de su clase. Se ejecuta a una velocidad increíble en diferentes hardware y se integra fácilmente con otras herramientas de inteligencia artificial.

Gemma es una familia de modelos abiertos livianos y de última generación, construidos a partir de la misma investigación y tecnología utilizadas para crear los modelos Gemini.

CodeGemma, RecurrentGemma y PaliGemma, buscan ofrecer capacidades únicas para diferentes tareas de IA, con fácil accesibilidad, mediante integraciones con socios como Hugging Face, NVIDIA y Ollama.

Te puede interesar: ¿Sobrevivirán discográficas ante IA? Demandadas Suno y Udio por violar derechos de autor de canciones

Gemma 2 está disponible en tamaños de parámetros de 9 mil millones (9B) y 27 mil millones (27B), con mayor rendimiento, mitad del peso promedio y eficiencia. Trae importantes avances de seguridad incorporados con ofrece alternativas competitivas en en 27B.

Ahora con un rendimiento que se puede lograr en un único host de GPU o TPU NVIDIA H100 Tensor Core, lo que reduce significativamente los costos de implementación.

“El modelo 9B Gemma 2 también ofrece un rendimiento líder en su clase, superando al Llama 3 8B y otros modelos abiertos en su categoría de tamaño. Para conocer desgloses detallados del rendimiento, consulte el informe técnico”.

En cuanto al modelo 27B “Gemma 2 está diseñado para ejecutar inferencia de manera eficiente y con total precisión en un único host de TPU de Google Cloud, una GPU NVIDIA A100 de 80 GB Tensor Core o una GPU NVIDIA H100 Tensor Core, lo que reduce significativamente los costos y mantiene un alto rendimiento. Esto permite implementaciones de IA más accesibles y económicas”.

Sobre la inferencia afirman que es “increíblemente rápida en todo el hardware: Gemma 2 está optimizado para ejecutarse a una velocidad increíble en una variedad de hardware, desde potentes portátiles para juegos y computadoras de escritorio de alta gama hasta configuraciones basadas en la nube”.

Te puede interesar: IA llegó para hacernos más productivos y creativos, pero también con efectos adversos ¿Cuáles?

Gemma 2 se puede probar, prometiendo total precisión “en Google AI Studio, desbloquee el rendimiento local con la versión cuantificada con Gemma.cpp en su CPU o pruébelo en la computadora de su hogar con una NVIDIA RTX o GeForce RTX a través de Hugging Face Transformers”.

No sólo sería más potente, sino que está diseñado para integrarse más fácilmente en sus flujos de trabajo. Abierto y accesible, al igual que los modelos Gemma originales; “Gemma 2 está disponible bajo nuestra licencia Gemma comercial, lo que brinda a los desarrolladores e investigadores la capacidad de compartir y comercializar sus innovaciones”.

Gemma 2 guarda compatibilidad con los principales marcos de IA como Hugging Face Transformers y JAX, PyTorch y TensorFlow a través de Keras 3.0 nativo, vLLM, Gemma.cpp, Llama.cpp y Ollama. Además, está optimizada con NVIDIA TensorRT-LLM para ejecutarse en una infraestructura acelerada por NVIDIA o como un microservicio de inferencia NIM de NVIDIA, y próximamente habrá optimización para NeMo de NVIDIA.

La implementación se podrá hacer partir de julio de 2024, donde los clientes de Google Cloud podrán implementar y administrar fácilmente Gemma 2 en Vertex AI.

El nuevo Gemma Cookbook, conlleva una colección de ejemplos prácticos y recetas que guían en la creación de propias aplicaciones y el ajuste de los modelos Gemma 2 para tareas específicas.

Imagen: Archivo ENTER.CO

Para empezar, Apple publicó un análisis comparativo a través de tests que evalúan el rendimiento de su IA en comparación con otros modelos. Los benchmarks publicados incluyen comparaciones con modelos de código abierto como Gemma y Mistral, así como con modelos comerciales como GPT-3.5 y GPT-4 Turbo.

En términos de rendimiento local, Apple Intelligence mostró resultados positivos, especialmente en dispositivos como iPhones y Macs, destacándose por su capacidad de mantener la privacidad del usuario sin exponer datos sensibles. Sin embargo, para tareas más exigentes, la potencia de un único chip no es suficiente, lo que llevó a Apple a optar por servidores externos para procesar estas solicitudes, garantizando la privacidad a través de su sistema Private Cloud Compute.

Te puede interesar: ChatGPT llega a Apple: ‘Apple Intelligence’, el nuevo sistema que dominará sus dispositivos

En las pruebas locales, Apple Intelligence superó a modelos como Phi-3-mini y Mistral en un 62% y un 46% de los casos, respectivamente. Este rendimiento es notable, dado que ambos modelos son más grandes y, teóricamente, más potentes. Sin embargo, cuando la comparación se hace con GPT-4 Turbo, Apple Intelligence queda en desventaja, logrando mejores respuestas solo en el 39.8% de las peticiones, siendo superado por GPT-4 Turbo en la mayoría de los casos.

La diferencia de rendimiento se refleja cuando se considera el procesamiento en servidores. Los estudios realizados con calificadores humanos revelaron que GPT-4 Turbo ofrece una mejor experiencia general en el 41.7% de los casos, mientras que Apple Intelligence lo supera solo en el 28.5%.

Aun así, en términos de seguridad y resistencia a solicitudes maliciosas, Apple Intelligence muestra una considerable robustez, manteniendo la integridad de las respuestas y protegiendo los datos del usuario.

¿Cómo logro Apple integrar ChatGPT pero desarrollar su propia IA?

Apple explica que la compañía adoptó una estrategia pragmática al recurrir a modelos avanzados de OpenAI, integrándose en Siri para ofrecer una experiencia de usuario más potente y competitiva. Esta colaboración permite a Apple mantenerse a la par con las altas expectativas de los usuarios, que están acostumbrados a la eficacia de modelos como GPT-4 Turbo.

Sin embargo, en esta integración uno de los puntos más fuertes de Apple Intelligence es su enfoque en la privacidad y seguridad. La IA de Apple se ha diseñado para funcionar localmente en el dispositivo del usuario, manteniendo los datos privados y seguros. Para solicitudes que requieren mayor potencia, Apple utiliza servidores externos, asegurando que la información se mantenga cifrada y dentro del ámbito privado.

Te puede interesar: macOS Sequoia te permitirá controlar tu iPhone por completo desde tu Mac ¿Un centro de control del ecosistema Apple?

Finalmente, pese a que Apple avanzó en esta materia, ‘Apple Intelligence’ aún no alcanza la potencia de GPT-4 Turbo en varios aspectos, la integración de soluciones de OpenAI y su firme enfoque en la privacidad y seguridad del usuario son movimientos estratégicos inteligentes.

Con un enfoque centrado en la privacidad y una integración estratégica con modelos avanzados, Apple está bien posicionado para ofrecer una IA que no solo cumple con las expectativas de rendimiento, sino que también asegura la privacidad y la seguridad de los usuarios. La evolución de Apple Intelligence promete ser un área de gran interés y desarrollo en los próximos años, marcando un camino hacia una IA responsable y potente.

Imagen: Archivo ENTER.CO

Google lanza una nueva generación de modelos abiertos para ayudar a los desarrolladores e investigadores a crear inteligencia artificial  (IA) de manera responsable. Se trata de Gemma, una familia de modelos livianos y de última generación construidos a partir de la misma investigación y tecnología utilizada para crear los modelos Gemini. 

Según el gigante tecnológico, Gemma, que significa “piedra preciosa”, está disponible para todo el mundo, fue lanzada en dos tamaños  Gemma 2B y Gemma 7B, cada uno se lanza  con variantes previamente entrenadas y ajustadas por instrucciones.

Además de los modelos, presentaron un kit de herramientas de IA generativa responsable para respaldar la innovación de los desarrolladores. Incluye orientación y herramientas esenciales para crear aplicaciones de IA más seguras con Gemma. Hay  cadenas de herramientas para inferencia y ajuste fino supervisado en JAX, PyTorch y TensorFlow a través de Keras 3.0 nativo.

Te puede interesar: Chatbots románticos con IA son peligrosos, carecen de “transparencia y responsabilidad”

Google explica que la nueva generación están previamente entrenados y ajustados por instrucciones se pueden ejecutar en su computadora portátil, estación de trabajo o Google Cloud con una fácil implementación en Vertex AI y Google Kubernetes Engine (GKE).

La optimización en múltiples plataformas de hardware de IA garantiza un rendimiento líder en la industria, incluidas las GPU NVIDIA y las TPU de Google Cloud.

 Los modelos Gemma son capaces de ejecutarse directamente en una computadora portátil o de escritorio para desarrolladores. Google asegura que supera modelos significativamente más grandes en puntos de referencia clave y al mismo tiempo cumple con rigurosos estándares para resultados seguros y responsables. 

En tanto a los  términos de uso permiten el comercial y la distribución responsable para todas las organizaciones, independientemente de su tamaño.

Te puede interesar: NVIDIA lanza IA: ‘Chat With RTX’ que te permite personalizar tu propio contenido en PC

La compañía señala que Gemma está diseñada para la comunidad abierta de desarrolladores e investigadores que impulsan la innovación en IA. Está disponible  gratuitamente en Kaggle, un nivel gratuito para portátiles Colab y 300 dólares en créditos para usuarios nuevos de Google Cloud. 

Los investigadores también pueden solicitar créditos de Google Cloud de hasta 500.000 dólares para acelerar sus proyectos.