Palit Pandora: un mini PC con NVIDIA Jetson Orin NX con 157 TOPS para IA
22-12-2024 22:14
Palit ha creado un Mini PC con NVIDIA Jetson Orin NX, que ofrece 157 TOPS para IA, con configuraciones de 8 GB de RAM y 117 TOPS o 16 GB de RAM y 157 TOPS, ambos con 128 GB de SSD y Ubuntu OS preinstalado. El dispositivo mide 121mm x 145mm x 66mm y pesa 470g. El precio no ha sido anunciado, pero se espera que supere los 800€.
NVIDIA presenta el ordenador de IA generativa más asequible del mundo
22-12-2024 14:07
NVIDIA presenta el Jetson Orin Nano Super, un ordenador de IA generativa con un rendimiento de 67 TOPS y un precio de 250€, lo que supone un 70% más de rendimiento que su predecesor por la mitad de precio. El dispositivo cuenta con una CPU Arm Cortex-A78AE, 8 GB de DRAM, 1024 núcleos CUDA y 32 núcleos Tensor. También se puede conectar a la alimentación mediante USB-C y cuenta con varios puertos USB y conectores para unidades SSD.
Este es el motivo por el que Intel incluyó 16 líneas PCIe 4.0 en sus gráficas Arc B580 cuando solo usan 8
21-12-2024 11:02
Intel permite a fabricantes como MaxSun utilizar las 8 líneas PCIe 4.0 de la tarjeta gráfica B580 para instalar SSD en el PCB, con capacidad para dos SSD PCIe 4.0 y conectores de 8 pines para alimentación, lo que permitirá refrigerar los SSD de forma activa, con un diseño personalizado en formato ITX y un disipador sobredimensionado, con un lanzamiento previsto en el mercado chino muy pronto
Parece un SSD M.2, pero es un acelerador para IA con 24 TOPS de potencia
21-12-2024 08:17
La startup estadounidense MemryX ha desarrollado un acelerador de IA con un formato M.2, similar a un SSD, que ofrece 24 TOPS de potencia y consume entre 6 y 8 vatios. El módulo, llamado MemryX MX3 M.2, es fácil de integrar gracias a los controladores de código abierto y herramientas para desarrolladores, y puede mejorar la capacidad de inteligencia artificial de un ordenador sin necesidad de una tarjeta gráfica o procesador con NPU. El precio es de unos 150€.
Ajustar un LLM con mensajes de texto: Black Mirror es real
20-12-2024 22:55
Un modelo de lenguaje grande (LLM) se ajustó utilizando 240,805 mensajes de texto de 288 personas. El proceso incluyó la preparación de los datos, la búsqueda de hiperparámetros y la generación de conversaciones. El modelo se entrenó con el modelo Llama 2 de 7B parámetros y se ajustó utilizando QLoRA en máquinas virtuales V100. Después de trabajar en el prompt y el formato de los datos de entrada, el modelo se volvió eficaz imitando la manera de hablar del autor y pudo actuar de manera convincente como muchos de sus amigos. El autor planea probar RAG y otras técnicas para mejorar la calidad de las conversaciones.