Descifrando el cerebro de los modelos de lenguaje: la nueva herramienta de Anthropic para entender por qué fallan

La herramienta de circuit tracing permite visualizar el flujo interno de información dentro del modelo

La herramienta de circuit tracing permite visualizar el flujo interno de información dentro del modelo

Anthropic ha lanzado una herramienta de circuit tracing para entender cómo funcionan los modelos de lenguaje. La herramienta permite visualizar el flujo interno de información dentro del modelo y realizar experimentos de intervención. Se basa en la interpretabilidad mecanicista y utiliza gráficos de atribución para mostrar qué características internas se activan en cada etapa del procesamiento. La herramienta puede ser utilizada para depurar errores, optimizar funciones específicas y analizar razonamientos complejos. También puede ayudar a detectar sesgos ocultos y mejorar la equidad en respuestas. La herramienta es compatible con Neuronpedia y está disponible como código abierto.

Crítica:El artículo promete descifrar el cerebro de los modelos de lenguaje, pero en realidad solo nos muestra una herramienta que ayuda a entender cómo funcionan. No es exactamente el Santo Grial de la inteligencia artificial, pero es un paso en la dirección correcta. La herramienta de circuit tracing es como un escáner de cerebro para modelos de lenguaje, lo que puede ser útil para depurar errores y mejorar la eficiencia. Sin embargo, el artículo podría haber profundizado más en los detalles técnicos y las aplicaciones prácticas de la herramienta. En resumen, es un artículo interesante, pero no revolucionario.
fuente wwwhatsnew.com
08-06-2025 12:00

Tecnología
Resumir link
Últimos artículos Ciencia Compras Corazón Cultura Curiosidades Deportes Economía Entretenimiento Política Salud Tecnología Últimos artículos Resumir link
El grupo UNC6040 utiliza vishing para comprometer entornos digitales de grandes corporaciones

Un ciberataque contra grandes empresas está robando grandes cantidades de datos confidenciales usando sólo el teléfono como arma

Un grupo de ciberdelincuentes llamado UNC6040 está utilizando una técnica de ingeniería social llamada vishing para comprometer entornos digitales de grandes corporaciones basados en la plataforma Salesforce, con el objetivo de exfiltrar datos confidenciales y extorsionar a sus víctimas. El modus operandi consiste en hacerse pasar por personal de soporte técnico y convencer a los empleados para que realicen acciones inseguras, como instalar aplicaciones modificadas en Salesforce. El grupo ha tenido éxito debido a la confianza en el personal interno, la falta de concienciación y la complejidad de las plataformas SaaS. Se recomiendan medidas de protección como el principio de mínimo privilegio, control estricto de apps conectadas y uso de Salesforce Shield.
...es un ejemplo perfecto de cómo la ingeniería social puede ser más peligrosa que cualquier malware. La técnica de vishing utilizada por el grupo UNC6040 es un recordatorio de que la seguridad no solo depende de la tecnología, sino también de la concienciación y la educación de los empleados. ...es bien investigado y proporciona información valiosa sobre cómo protegerse contra este tipo de ataques. Sin embargo, el título podría ser más específico y no dejar tanto a la imaginación del lector. En resumen, un artículo interesante y bien documentado que nos recuerda que la seguridad es un tema que requiere atención constante y esfuerzo conjunto.
www.genbeta.com Informática
No hay estudios concluyentes que respalden el uso de amenazas para mejorar las respuestas de la IA

Amenazar a la IA es el consejo del fundador de Google para lograr que ofrezca mejores respuestas. No es seguro que sea buena idea

Sergey Brin, cofundador de Google, sugiere que los modelos de IA pueden rendir mejor cuando se les amenaza. Esto se basa en su experiencia y en la práctica de prompt engineering, que busca optimizar las peticiones hechas a un modelo de IA. Sin embargo, expertos como Daniel Kang señalan que los estudios sistemáticos ofrecen resultados mixtos y recomiendan confiar más en experimentos controlados que en la intuición. Los modelos de IA, como ChatGPT, Claude o Gemini, son esencialmente 'loros estocásticos' que repiten patrones lingüísticos aprendidos del entrenamiento. La sugerencia de Brin plantea varios problemas, como vulnerabilidades de seguridad y comportamientos emergentes no deseados.
...nos presenta una idea interesante, pero también un poco perturbadora: ¿deberíamos amenazar a nuestras IA para que nos den mejores respuestas? La respuesta, por supuesto, es no. Pero lo que realmente llama la atención es la forma en que el artículo presenta la idea de Sergey Brin como si fuera una revelación profunda, cuando en realidad es solo una anécdota sin fundamento científico. En fin, parece que la IA todavía tiene mucho que aprender... y nosotros también.
www.genbeta.com Informática
El Xiaomi 16 tendrá una cámara principal de 50 megapíxeles con sensor OmniVision OV50Q y una batería de 7.000 mAh

El Xiaomi 16 alardeará de una nueva cámara principal y una batería de 7.000 mAh

El Xiaomi 16 contará con una cámara principal actualizada y una batería de 7.000 mAh, gracias a las nuevas baterías de silicio-carbono. La cámara principal será un sensor OmniVision OV50Q de 50 megapíxeles y 1/1,3 pulgadas, compatible con la tecnología LOFIC. El dispositivo también tendrá un panel OLED de 6,3 pulgadas con una tasa de refresco de hasta 120 Hz y un SoC Snapdragon 8 Elite 2. La batería de 7.000 mAh permitirá una mayor autonomía sin aumentar el grosor del dispositivo.
...promete mucho con su título, pero en realidad solo nos muestra una pequeña parte de lo que el Xiaomi 16 puede ofrecer. Aun así, la idea de una cámara principal de 50 megapíxeles y una batería de 7.000 mAh es emocionante. Solo esperemos que el dispositivo en sí sea tan impresionante como sus especificaciones.
elchapuzasinformatico.com Tecnología
El submarino S-81 Isaac Peral cuenta con un sistema BEST AIP que fabrica hidrógeno a partir de bioetanol, pero no está instalado en el submarino entregado en noviembre de 2023

Tras años de espera, España tiene un submarino único en el mundo: uno con su propia fábrica de hidrógeno submarina

La Armada Española ha recibido el primer submarino de la clase S-80, el S-81 Isaac Peral, que cuenta con un sistema de propulsión independiente del aire (AIP) llamado Bio-Ethanol Stealth Technology (BEST AIP), que fabrica hidrógeno a partir de bioetanol. El sistema BEST AIP no está instalado en el submarino entregado en noviembre de 2023, pero se prevé su instalación en la primera gran parada técnica en 2029-2030. Los submarinos S-83 y S-84, fechados para 2026 y 2028 respectivamente, sí contarán con el sistema BEST AIP de fábrica. El sistema permite autonomías sumergidas de 20 días o más y elimina el riesgo de almacenar hidrógeno.
...promete mucho con su título, pero en realidad, el submarino más avanzado del mundo todavía no tiene instalado el sistema que lo hace tan especial. Es como comprar un coche de lujo sin motor. Aun así, es emocionante ver cómo la tecnología avanza y cómo España se está poniendo a la cabeza en la construcción de submarinos. Pero, ¿quién necesita un submarino con un sistema de propulsión independiente del aire si no puede usarlo? Esperemos que el sistema BEST AIP se instale pronto y que el S-81 Isaac Peral pueda mostrar todo su potencial.
www.xataka.com Tecnología
ChatGPT puede transcribir reuniones y responder preguntas con Record Mode

ChatGPT se mete en tus reuniones: las nuevas funciones que cambian cómo trabajas

OpenAI ha anunciado nuevas funciones para ChatGPT, incluyendo Conectores que permiten acceder a herramientas como Outlook, Gmail y Google Drive, y Record Mode, que transcribe reuniones y responde preguntas. El precio de lanzamiento de Record Mode es de 1 dólar por el primer mes para hasta cinco usuarios, y luego 30 dólares al mes. La función MCP permite la integración personalizada con sistemas internos. ChatGPT se convierte en un asistente digital integral que entiende el flujo de trabajo de los equipos y mejora la colaboración.
...promete mucho, pero ¿podrá ChatGPT realmente entender el flujo de trabajo de nuestros equipos y mejorar la colaboración? Solo el tiempo lo dirá. De momento, parece que OpenAI está intentando convertir a ChatGPT en un asistente digital integral, pero todavía hay que ver si puede cumplir con todas las expectativas. ¿Será el nuevo 'miembro' del equipo que todos necesitamos, o solo un juguete tecnológico más?
wwwhatsnew.com Tecnología
Galaxy AI ofrece funciones como asistente de escritura y edición de fotos

Galaxy AI: las mejores funciones y trucos para exprimir al máximo la inteligencia artificial de tu Samsung Galaxy

Galaxy AI es una herramienta de inteligencia artificial integrada en los dispositivos Samsung con One UI 7, como el Galaxy S25. Ofrece funciones como asistente de escritura, edición de fotos y vídeos, eliminación de ruidos, traducción en tiempo real, y más. También incluye un asistente de dibujo, consejos de salud y la función Now Bar para interactuar con aplicaciones y contenido. La herramienta puede transcribir notas y grabaciones de voz, y resume páginas web. La actualización de One UI 7 está programada para 2025.
...promete 'exprimir al máximo' la inteligencia artificial de Samsung, pero en realidad solo nos muestra algunas funciones interesantes. Aun así, es emocionante ver cómo la tecnología avanza y nos hace la vida más fácil. ¿Puedo tener un asistente de escritura que me ayude con mis correos electrónicos, por favor?
www.xataka.com Tecnología
La función de detección de apnea del sueño está disponible en 70 países y territorios, incluyendo España, y requiere un Galaxy Watch4 o posterior con Wear OS 5.0 o superior

Los relojes Samsung Galaxy se actualizan para detectar la apnea del sueño

Samsung ha actualizado sus relojes Galaxy para detectar la apnea del sueño en 70 países y territorios, incluyendo 34 países de Europa, como España. La función utiliza el sensor BioActive para medir la saturación de oxígeno en sangre (SpO₂) durante el sueño y detectar patrones irregulares que podrían indicar apnea. La detección de la apnea del sueño funciona en el Galaxy Watch4 y modelos posteriores con el sistema operativo Wear OS 5.0 o versiones posteriores, y requiere un smartphone de Samsung con Android 12 o posterior.
...promete mucho con su título, pero en realidad solo nos cuenta que Samsung ha actualizado sus relojes para detectar la apnea del sueño en más países. No hay nada revolucionario aquí, solo una función más en un reloj inteligente. Pero, ¿quién no quiere saber si tiene apnea del sueño mientras duerme? Al menos ahora podemos dormir tranquilos sabiendo que nuestro reloj nos vigila... o no.
elchapuzasinformatico.com Tecnología
Los devotos cristianos están utilizando la IA para difundir pasajes de la Biblia de manera realista en redes sociales

Al fin tenemos los vídeos de Noé construyendo su arca, Jesucristo multiplicando peces y Eva siendo tentada. Gracias a la IA, claro

Cuentas como lossecretosdelabiblia0, lokiprosperity y vlogsbiblia utilizan la inteligencia artificial para recrear pasajes de la Biblia de manera realista, con más de 500.000 seguidores, 50.000 y 30.000 respectivamente. Estos contenidos incluyen la construcción del arca por Noé, la multiplicación de los panes y los peces, y la tentación de Eva. Algunos perfiles, como profetasdelabiblia, tienen un enfoque apocalíptico y ofrecen cursos para aprender a crear contenido similar. La cristianización de TikTok se refleja en hashtags como #christiantiktok y #jovenescristianos, con más de 22 millones y 5 millones de publicaciones respectivamente.
...promete revelar los secretos de la Biblia gracias a la IA, pero en realidad nos muestra cómo los devotos cristianos están utilizando la tecnología para difundir su fe de manera más atractiva. Aunque es interesante ver cómo la IA se utiliza para recrear pasajes bíblicos, el artículo podría profundizar más en el impacto de esta tendencia en la sociedad y la religión. En lugar de eso, nos deja con la sensación de que la tecnología es solo una herramienta para vender cursos y ganar seguidores. ¡Quizás el próximo paso sea la creación de un reality show bíblico generado por IA!
www.xataka.com Tecnología
Xiaomi y Honor diversifican su negocio hacia coches eléctricos y robots humanoides

Los fabricantes chinos de móviles ya están pensando en el año 2050. Y por eso mismo no están pensando en móviles

Xiaomi invertirá 10.000 millones de dólares en coches eléctricos y ha lanzado el Xiaomi Su7, aunque ha perdido 700 millones de yuanes en el cuarto trimestre de 2024 y 500 millones en el siguiente trimestre. La empresa sigue apostando por la diversificación, ya que el móvil es un producto maduro. Honor, por su parte, se lanza al segmento de los robots humanoides con una inversión de 10.000 millones de dólares. Ambas empresas buscan no estancarse y lanzarse a nuevos ámbitos empresariales, con un enfoque en la IA y la innovación.
...es un poco engañoso, pero el contenido es interesante. La estrategia de Xiaomi y Honor de diversificar su negocio hacia coches eléctricos y robots humanoides es un tema relevante en la industria tecnológica. Sin embargo, el artículo podría profundizar más en los detalles y beneficios de esta estrategia. En general, es un artículo informativo, pero no revolucionario. La pregunta es, ¿qué pasará cuando los coches eléctricos y los robots humanoides sean lo suficientemente avanzados como para reemplazar a los humanos? ¿Estamos preparados para un futuro donde las empresas chinas dominen el mercado de la tecnología?
www.xataka.com Tecnología
El acceso no autorizado se produjo durante la semana del 26 de mayo

He recibido este aviso de InfoJobs: han accedido a mi cuenta y mis datos pueden ser usados para crear estafas de phishing

Un usuario recibió un aviso de InfoJobs indicando que su cuenta había sido bloqueada debido a un acceso no autorizado detectado durante la semana del 26 de mayo. Los atacantes obtuvieron credenciales robadas y accedieron a la información personal del perfil, lo que podría permitir intentos de phishing. El usuario no había actualizado su contraseña en tres años y utilizaba la misma en otras plataformas, por lo que debe cambiarlas todas. InfoJobs recomendó actualizar las contraseñas y prestar atención a posibles intentos de estafa.
...es un ejemplo perfecto de cómo una noticia puede ser a la vez inquietante y educativa. La falta de actualización de contraseñas es un error común, y este artículo nos recuerda la importancia de la seguridad en línea. Aunque el título es un poco sensacionalista, el contenido es informativo y útil. En resumen, un artículo que nos hace reflexionar sobre nuestra seguridad en línea y nos da consejos prácticos para protegernos. ¡Y quién no ha utilizado la misma contraseña en varias plataformas...!
www.genbeta.com Informática
La IA desalienta el aprendizaje y puede hacer que los estudiantes pierdan la práctica y la habilidad para desempeñar tareas

El gran problema de usar la inteligencia artificial como estudiante no son las trampas: el drama está en el proceso de aprendizaje

La inteligencia artificial puede ser una herramienta útil para los estudiantes, pero también puede desalientar el aprendizaje. Según Nicholas Carr, cuando una persona usa una máquina para automatizar una tarea, puede mejorar la habilidad, atrofiarla o nunca desarrollarla. Un estudio de la Universidad de Pensilvania en 2024 encontró que el acceso a GPT-4 mejora significativamente el rendimiento, pero al retirar el acceso, los estudiantes rinden peor que aquellos que nunca tuvieron acceso. La IA puede revertir básicos del aprendizaje, como buscar fuentes, hacer una lectura crítica y sintetizar información. Clay Shirky, Vicerrector de IA y Tecnología Educativa en la Universidad de Nueva York, afirma que el verdadero resultado del curso es la experiencia del estudiante. La IA puede ser un arma de doble filo, ya que puede ayudar a los estudiantes a aprender, pero también puede hacer que pierdan la práctica y la habilidad para desempeñar tareas.
...es un llamado a la reflexión sobre el uso de la inteligencia artificial en el ámbito educativo. Aunque puede ser una herramienta útil, también puede ser un obstáculo para el aprendizaje. La ironía es que la IA puede ayudar a los estudiantes a obtener buenas calificaciones, pero a costa de perder la habilidad para pensar críticamente y resolver problemas de manera autónoma. Es como si estuviéramos diciendo: '¡Genial, ahora puedo hacer mi tarea sin esfuerzo!... pero ¿qué pasa cuando me gradúo y tengo que enfrentar el mundo real?'
www.genbeta.com Tecnología
La consola ANBERNIC RG Slide utiliza un SoC Unisoc T820

ANBERNIC RG Slide: consola portátil para emuladores con diseño inspirado en la PSP Go

La consola ANBERNIC RG Slide tiene un diseño inspirado en la PSP Go, con una pantalla deslizable de 4,7 pulgadas y resolución de 1280 x 960 píxeles, una tasa de refresco de 120 Hz y una relación de contraste de 1200:1. Está equipada con un SoC Unisoc T820, 8 GB de memoria RAM LPDDR4X y 128 GB de almacenamiento UFS 2.2. Ofrece Wi-Fi 6, Bluetooth 5.0 y una batería de 5000 mAh con hasta 6 horas de autonomía. La consola tiene un sistema de refrigeración activo y viene con Android 13 preinstalado. La salida de vídeo es compatible con DisplayPort y puede conectarse a un monitor o televisor para disfrutar de juegos y contenido multimedia en Full HD.
La ANBERNIC RG Slide parece ser una consola portátil interesante, pero el uso de un SoC Unisoc T820 en lugar del esperado MediaTek Dimensity 8300 es un poco decepcionante. Aun así, la pantalla deslizable y el diseño inspirado en la PSP Go son detalles que la hacen atractiva. Esperemos que el precio sea razonable para justificar las características de esta consola. En resumen, una buena opción para los amantes de los emuladores, pero no para aquellos que buscan una experiencia de juego más potente.
elchapuzasinformatico.com Tecnología
Share on Whatsapp Share on X Share on LinkedIn Share by Mail Copiar enlace