Windows se está preparando para soportar una nueva generación de silicio que vendrá con aceleradores de IA.
Microsoft ha estado invirtiendo mucho en el aprendizaje automático. Está trabajando con los proveedores de silicio para apoyar la ejecución de modelos de IA en su PC tan rápido como sea posible. Esto ha requerido el desarrollo de toda una nueva generación de silicio de Intel, AMD y ARM.
A menudo denominadas “aceleradores de IA”. Las unidades de procesamiento neural son hardware dedicado que se encarga de tareas específicas de aprendizaje automático, como los algoritmos de visión por ordenador.
Se puede pensar en ellas como en una GPU, pero para la IA en lugar de para los gráficos. Suelen compartir muchas características con las GPU, ya que tienen muchos núcleos de procesador de precisión relativamente baja. Estos implementan algoritmos comunes de aprendizaje automático.
Ni siquiera es necesario fabricarlos previamente, puesto que los FPGA ofrecen silicio programable que puede utilizarse para construir y probar aceleradores.
¿Tienes una Surface Pro X? Tu NPU ya está aquí.
Surface ya incluye hardware con NPUs, con los procesadores SQ1 y SQ2 co-desarrollados por Microsoft para su hardware Surface Pro X basado en ARM. Utiliza una NPU integrada para añadir funciones de seguimiento ocular a su cámara.
Si utilizas Microsoft Teams o un sistema similar en una Surface Pro X, corregirá tu mirada para qué la persona con la que estés chateando te vea mirando a ella y no a la cámara.
Funciones como estas son las que Microsoft tiene previsto incorporar a Windows. Su evento sobre el trabajo híbrido de abril de 2022 las utilizó como ejemplo de cómo podemos utilizar las NPU para facilitar el trabajo en equipo desde casa.
Objetivos de las NPU
Las NPU permitirán el encuadre automático de las cámaras y el desenfoque dinámico de los fondos para reducir las distracciones.
Esto podría significar que las NPU funcionen en hardware dedicado. Integrando en las cámaras web y que descarguen las complejas tareas de procesamiento de imágenes en la cámara antes de que se pueda utilizar el vídeo resultante en el PC.
El objetivo es convertir una experiencia artificial en pantalla en una centrada en las personas que participan en ella y no en la tecnología. Se utilizará el procesamiento de audio para eliminar el ruido, así como para centrarse en la voz de un orador y no en el conjunto de la sala.
Algunas de estas técnicas, como la focalización de la voz, están pensadas para ayudar a los asistentes remotos a una reunión.
Les permitirá escuchar lo que dice un orador que utiliza un micrófono compartido en una sala de reuniones, tan bien como podrían escuchar a alguien solo en una sala con un micrófono dedicado.
Las NPU facilitarán la implementación de estas técnicas, permitiendo que se ejecuten en tiempo real sin sobrecargar la CPU o la GPU. Contar con aceleradores dirigidos a estos modelos de aprendizaje automático garantiza que tu PC no se sobrecaliente ni se quede sin batería.
Incorporación de la compatibilidad con NPU al desarrollo de aplicaciones de Windows
En el futuro, Windows dependerá cada vez más de las NPU. Microsoft ha anunciado su hardware de desarrollo basado en ARM Project Volterra como plataforma para crear y probar código basado en NPU en su evento para desarrolladores Microsoft Build.
El Proyecto Volterra es un dispositivo de sobremesa que probablemente esté alimentado por una variante SQ3 del procesador Qualcomm 8cx Gen3 con la NPU personalizada de Microsoft.
Esa NPU está diseñada para que los desarrolladores empiecen a utilizar sus características en su código, manejando el procesamiento de vídeo y audio. Esto se realiza mediante una versión del SDK de procesamiento neuronal de Qualcomm para Windows.
Microsoft espera que las NPU se conviertan en una característica estándar en el hardware para móviles y ordenadores de sobremesa. Para ello es necesario poner en manos de los desarrolladores un hardware basado en NPU como Proyecto Volterra.
Proyecto Volterra
El Proyecto Volterra está diseñado para ser apilable. Por lo que debería ser posible incorporar varios en el rack de desarrollo, permitiendo a los desarrolladores escribir código, crear aplicaciones y ejecutar pruebas al mismo tiempo.
También es una pieza de hardware muy atractiva, diseñada por el equipo de hardware de Surface y con un aspecto similar al de los dispositivos insignia Surface Laptop Studio y Surface Pro X.
El objetivo es convertir una experiencia artificial en pantalla en una centrada en las personas que participan en ella y no en la tecnología. Se utilizará el procesamiento de audio para eliminar el ruido, así como para centrarse en la voz de un orador y no en el conjunto de la sala.
Algunas de estas técnicas, como la focalización de la voz, están pensadas para ayudar a los asistentes remotos a una reunión. Les permite oír lo que dice un orador que utiliza un micrófono compartido en una sala de reuniones tan bien como podrían oír a alguien solo en una sala con un micrófono dedicado.
Las NPU facilitarán la implementación de estas técnicas, permitiendo que se ejecuten en tiempo real sin sobrecargar tu CPU o GPU. Contar con aceleradores dirigidos a estos modelos de aprendizaje automático garantiza que tu PC no se sobrecaliente ni se quede sin batería.
Las NPU en el silicio del futuro
Si se observan las hojas de ruta del silicio de los distintos proveedores de procesadores y GPU, está claro que la aceleración de la IA es clave para su próxima generación de hardware.
Intel la está incorporando a su familia de procesadores móviles Meteor Lake 2023, y el Raptor Lake de sobremesa funciona con módulos aceleradores de IA basados en M.2.
Al mismo tiempo, AMB está trabajando en la integración de optimizaciones de IA y ML en su próxima generación de hardware Zen 5.
Aunque hoy en día solo unos pocos PC, como el Surface Pro X, son compatibles con las NPU, está claro que el futuro se presenta muy diferente.
Con aceleradores de IA de diferentes tipos que se incorporarán a los sistemas en un chip o como complementos que utilizarán los puertos PCIe ampliamente disponibles.