El 2023 nos ha traído la irrupción de la inteligencia artificial, que más allá de los bots conversacionales, ha influido en el mercado de la telefonía móvil. Google ha presentado Gemini, que estará en el Pixel 8 Pro, incluso en su versión on-device, mientras que en la acera de enfrente, AppleGPT potenciará a Siri en iOS 18.
La IA generativa copa todas las portadas, sobre todo desde que el gigante de Mountain View desveló Gemini Nano, que no requerirá conexión a Internet. Sin embargo, los móviles más antiguos seguirán dependiendo de la nube, ante la imposibilidad de trabajar en local. Pero Apple quiere darle la vuelta a la tortilla y ha inventado una ingeniosa manera para incorporar su futura IA en los antiguos iPhone.
Tu antiguo iPhone también tendrá IA local y no dependerá de la nube
Si el año que estamos cerrando ha supuesto una revolución en el campo de la inteligencia artificial, parece que el próximo 2024 lo será en la IA on-device (IA generativa que se ejecuta en local). Google la impulsará en su flamante buque insignia, el Pixel 8 Pro, pues cuenta con las capacidades técnicas para hacerlo.
En el otro lado del sector, se encuentra Apple, que utilizará la próxima versión de sus sistema operativo, iOS 18, como puente hacia la inteligencia artificial generativa. Quizá los futuros iPhone 16 cumplan las especificaciones para la IA on-device, pero la compañía de Cupertino quiere ir un paso más allá, ofreciéndola en los antiguos iPhone sin diferencias.
Como podemos leer en el Financial Times, que ha descubierto un documento de investigación de Apple, existe una solución para conseguir ejecutar estos modelos de lenguaje en dispositivos con cantidades de RAM más limitadas. Este sería el caso de los iPhone lanzados hasta el momento, a menos que Apple haya dejado la actual generación preparada para ello (aún así, los iPhone 14 y anteriores no estarían listos).
Yendo al grano, la solución encontrada por Apple pasa por mantener los "parámetros del modelo" de lenguaje dentro del almacenamiento, llevando pequeños pedazos de este a la RAM, sin llegar a cargarla completamente. Un truco ingenioso como útil, sorteando así este límite marcado por el hardware.
Estos métodos permiten ejecutar modelos de hasta el doble del tamaño de la memoria DRAM disponible, con un aumento de la velocidad de inferencia de 4 a 5 veces y de 20 a 25 veces en comparación con los métodos de carga ingenua en la CPU y la GPU, respectivamente. Afirma el Financial Times
La IA generativa en el dispositivo requiere, como hemos dicho anteriormente, mucha memoria RAM. Esto es así porque necesita las rápidas velocidades de lectura y escritura de este componente para funcionar de manera óptima. Por ello, la solución de la firma americana se antoja ideal, además aportaría a la industria un método más que factible para evitar este requisito.
Este sería el método escogido para que Apple pueda dotar, tanto a los iPhone nuevos como a los más antiguos, con las funciones de IA generativa. Cabe mencionar que en Apple cobra una mayor importancia, pues generalmente los iPhone incorporan cantidades de memoria más reducidas en comparación con algunos móviles Android.
Ahora bien, esta solución no es la única capaz de cumplirlo: otros actores principales como Qualcomm o Mediatek ya trabajan en alternativas. El segundo mencionado tiene en su nueva generación de procesadores, la precisión INT4, que reduce los modelos de lenguaje para que puedan correr localmente.
Por el momento, seguiremos esperando noticias sobre este interesante tema, pues no dejan de ser filtraciones que pueden acabar en saco roto. El año entrante será un punto de inflexión para la inteligencia artificial en dispositivos, o al menos, tiene toda la pinta de que así será.
Vía | Financial Times
Imagen de portada | Bing Image Creator con edición
En Xataka Móvil | Tu herramienta secreta para crear felicitaciones espectaculares con el móvil esta Navidad: la inteligencia artificial
Ver 1 comentarios