El CEO de Anthropic ni siquiera sabe cómo funciona su propia IA

Los desarrolladores de IA no comprenden realmente sus sistemas

Los desarrolladores de IA no comprenden realmente sus sistemas

Dario Amodei, CEO de Anthropic, admite que ni él ni sus ingenieros comprenden cómo funcionan realmente los sistemas de IA que han creado. La empresa, valorada en 15.000 millones, se centra en garantizar que la IA siga valores humanos y crear herramientas para entender estos modelos complejos. Amodei describe esta situación como 'sin precedentes en la tecnología' y advierte que entre 2025-2028 podrían surgir sistemas capaces de autorreplicarse y funcionar autónomamente.

Crítica:El artículo es un golpe de realidad para aquellos que creen que la IA es una ciencia exacta. La admisión de Dario Amodei es un recordatorio de que, a pesar de los avances, la IA sigue siendo un misterio incluso para sus creadores. Es como si estuviéramos jugando con fuego sin saber cómo apagarlo. La pregunta es, ¿qué pasará cuando la IA se vuelva demasiado inteligente para nosotros? ¿Seremos capaces de controlarla o será ella la que nos controle? El artículo es un llamado a la reflexión y a la precaución en el desarrollo de la IA.
fuente andro4all.com
11-05-2025 11:01

Tecnología
Resumir link
Últimos artículos Ciencia Compras Corazón Cultura Curiosidades Deportes Economía Entretenimiento Política Salud Tecnología Últimos artículos Resumir link
Apple integra inteligencia artificial en Xcode con Claude Sonnet

Apple y Anthropic trabajan juntos para revolucionar Xcode con inteligencia artificial

Apple está trabajando con Anthropic para integrar inteligencia artificial en Xcode, su entorno de desarrollo, con el objetivo de ofrecer a los desarrolladores una forma más eficiente de escribir y probar código. La integración con Claude Sonnet, un modelo de lenguaje desarrollado por Anthropic, permitirá escribir código desde una interfaz de chat, editar funciones existentes, probar interfaces de usuario y gestionar la corrección de bugs. Apple ha sido históricamente cautelosa con la inteligencia artificial, pero ahora parece que ha decidido aliarse con los mejores en el sector para ponerse al día en la carrera por la IA. La nueva versión de Xcode con IA se está probando internamente y no hay fecha oficial de lanzamiento.
...promete una revolución en el desarrollo de software, pero parece que Apple llega un poco tarde a la fiesta de la inteligencia artificial. Aun así, la colaboración con Anthropic y la integración de Claude Sonnet en Xcode es un paso en la dirección correcta. Ahora solo queda esperar a ver si esta nueva herramienta será capaz de cumplir con las expectativas de los desarrolladores y no se quede en un simple truco de marketing.
wwwhatsnew.com Tecnología
La IA generativa hace que el talento humano sea opcional

Duolingo inaugura una nueva era: cuando el talento humano ya no es imprescindible

Duolingo sustituirá parte de su red de colaboradores externos por IA generativa, lo que demuestra que el talento humano ya no es condición necesaria para crear valor a escala. En los últimos 30 años, Internet ha enfatizado la importancia del capital humano, pero ahora se está produciendo un desacoplamiento entre valor digital y aportación humana directa. La IA generativa no solo reemplaza tareas, sino que también redibuja la frontera del mérito, haciendo que el talento sea opcional. Empresas como Shopify ya no contratan si antes no automatizan, y se mide el valor aportado con IA, no sin ella.
...es como un funeral para el talento humano, pero con un toque de ironía: ¿quién necesita creatividad cuando una máquina puede hacerlo 'suficientemente bien'? La noticia es un golpe para los que pensaban que su trabajo era seguro, pero también es un recordatorio de que la innovación siempre ha sido un juego de supervivencia. Así que, ¿quién será el próximo en ser reemplazado? ¿Los periodistas? ¿Los políticos? ¿O tal vez los críticos de arte? La IA generativa es como un juego de '¿quién es el siguiente?' y nadie está seguro de su puesto en la lista.
www.xataka.com Tecnología
TikTok ha sido multada con 530 millones de euros por violar el RGPD

TikTok acaba de recibir una multa histórica en Europa: 530 millones de euros por enviar datos de los usuarios a China

TikTok ha sido sancionada con una multa de 530 millones de euros por violar el Reglamento General de Protección de Datos (RGPD) al permitir el acceso remoto desde China a datos de usuarios europeos sin garantizar un nivel de protección equivalente. La Comisión de Protección de Datos de Irlanda (DPC) ha dado a TikTok un plazo de seis meses para adecuar el tratamiento de datos a los requisitos del RGPD. La multa se descompone en 485 millones de euros por infringir el artículo 46(1) y 45 millones de euros por infringir el artículo 13(1)(f). La investigación se remonta a 2021, cuando surgieron dudas sobre si ingenieros en China podían acceder a datos de usuarios europeos.
Parece que TikTok ha estado bailando al ritmo de la privacidad de sus usuarios, pero ahora ha sido pillado por la Comisión de Protección de Datos de Irlanda. La multa de 530 millones de euros es un golpe significativo, pero ¿será suficiente para que la empresa cambie su comportamiento? Solo el tiempo lo dirá. Mientras tanto, los usuarios de TikTok deberían estar atentos a cómo se manejan sus datos personales. ¡No queremos que nuestros secretos sean compartidos con el mundo entero... o al menos, no sin nuestro consentimiento!
www.xataka.com Tecnología
La HUAWEI Band 10 es una alternativa a Xiaomi con un precio de 44€

Olvídate de Xiaomi: la HUAWEI Band 10 acaba de recibir su primera y mejor rebaja hasta ahora

La HUAWEI Band 10 es una pulsera inteligente con diseño ultraligero, pantalla AMOLED de 1,47 pulgadas, monitorización continua de frecuencia cardíaca, SpO2, sueño y estrés, y seguimiento del ciclo menstrual. Ofrece más de 100 modos de entrenamiento y una autonomía de hasta 14 días. Está disponible en Amazon con un descuento del 10%, pasando de 49€ a 44€.
...promete una alternativa a Xiaomi, pero en realidad solo ofrece una pulsera inteligente con características similares a las de la competencia. El descuento del 10% es atractivo, pero no es suficiente para justificar el título sensacionalista. En resumen, la HUAWEI Band 10 es una buena opción, pero no es la revolución que el título promete.
es.gizmodo.com Tecnología
Solo el 6% de las contraseñas son únicas y seguras

Tras revisar 19.000 millones de contraseñas, estas son las terribles conclusiones: solo el 6% usa contraseñas únicas seguras

Un estudio analiza más de 19.000 millones de contraseñas y descubre que solo un 6% son únicas, seguras y no se repiten. La mayoría de personas usa contraseñas de 8 a 10 caracteres, y el 42% de las personas usan contraseñas entre 8 y 10 caracteres de longitud. La contraseña '1234' se ha detectado 727 millones de veces, siendo la más repetida de todas.
Es alarmante ver cómo la mayoría de las personas siguen utilizando contraseñas débiles y repetidas, a pesar de los constantes recordatorios sobre la importancia de la seguridad en línea. ...es un llamado a la acción para que las personas tomen medidas para proteger sus cuentas y datos personales. ¿Pero quién necesita una contraseña segura cuando se puede usar '1234' y esperar que nadie la adivine?
elchapuzasinformatico.com Informática
La IA es una inteligencia alienígena que podría socavar los cimientos de nuestra civilización

Yuval Noah Harari, tecnólogo e historiador: "Hemos invocado una inteligencia alienígena"

Yuval Noah Harari, en su libro 'Nexus', analiza los últimos 100.000 años de comportamiento humano y destaca la necesidad de vigilancia gubernamental sobre la inteligencia artificial. Harari considera que la IA es una inteligencia alienígena que podría socavar los cimientos de nuestra civilización. En marzo de 2023, Harari publicó un editorial en el New York Times alertando sobre la necesidad de controlar la IA. Expertos como Geoffrey Hinton también han advertido sobre los riesgos de la IA. Han pasado dos años desde el alegato de Harari y el avance de la IA continúa imparable.
...es un llamado a la atención sobre los riesgos de la inteligencia artificial, pero parece que el mensaje de Yuval Noah Harari ha caído en saco roto. La IA sigue avanzando a pasos agigantados y nadie parece estar haciendo nada para detenerla. Es como si estuviéramos jugando con fuego y esperando a que alguien más lo apague. La pregunta es, ¿quién será el que finalmente apague el fuego antes de que sea demasiado tarde?
www.larazon.es Tecnología
El Xiaomi Watch S4 es una buena opción por su relación calidad-precio, con un ahorro de 30 euros en oferta

He probado el nuevo reloj inteligente de Xiaomi y te lo recomiendo, ya está en oferta

El Xiaomi Watch S4 es un reloj inteligente que ofrece una buena experiencia para la mayoría de usuarios, con un diseño personalizable, pantalla AMOLED de 1,43 pulgadas, compatibilidad con Android y iOS, y más de 150 modos deportivos. Su precio de venta recomendado es de 159,99 euros, pero ya se puede encontrar en oferta en Amazon y MediaMarkt por unos 130 euros, lo que supone un ahorro de 30 euros. La batería de 486 mAh ofrece hasta 15 días de autonomía. El reloj es ideal para enviar y recibir llamadas, monitorizar la actividad física y controlar la salud.
...es una recomendación interesante, pero el título podría ser más específico. En general, el contenido está a la altura de las expectativas, aunque podría profundizar más en las características y beneficios del reloj. En resumen, si buscas un reloj inteligente asequible y con buenas características, el Xiaomi Watch S4 podría ser una buena opción. Pero, ¿quién necesita un reloj que puede hacer casi todo, excepto preparar el desayuno?
andro4all.com Tecnología
La calidad del servicio de IA es baja

Klarna presumió de que la IA hacía el trabajo de 700 personas. Su calidad es tan baja que está recontratando humanos

Klarna despidió a 700 empleados en junio de 2022 y los reemplazó con un sistema de inteligencia artificial. Sin embargo, el CEO Sebastian Siemiatkowski ha iniciado un proceso de contratación para asegurar que los clientes puedan hablar con un agente humano, ya que la calidad del servicio de IA es baja. La empresa pretende invertir en la calidad del soporte humano y está pivotando a una estructura similar a la de Uber, con trabajadores que podrán iniciar sesión y teletrabajar. El objetivo es atraer a candidatos como estudiantes o gente de entornos rurales. La valoración de Klarna llegó a ser de 45.600 millones de dólares en 2021, pero se redujo a 6.500 millones de dólares un año después. La empresa espera levantar 1.000 millones de dólares con una OPA y situar su valoración en 15.000 millones de dólares.
Parece que Klarna ha aprendido que la inteligencia artificial no es la respuesta a todos los problemas, al menos no cuando se trata de ofrecer un servicio de calidad. La decisión de recontratar humanos es un paso en la dirección correcta, pero es difícil no pensar que la empresa ha estado tratando de ahorrar un dólar y ha perdido un euro. La empresa debería haber sabido que la calidad del servicio es baja cuando se trata de IA, pero al menos están tomando medidas para corregir el error. ¡Esperemos que no sea demasiado tarde!
www.xataka.com Tecnología
El programador del futuro debe dominar herramientas de IA y saber controlar a la IA, no dejar que ella te controle a ti

¿Eres programador o quieres serlo? Esta nueva fusión entre dos titanes te pondrá contra las cuerdas

OpenAI ha anunciado la integración oficial de ChatGPT con GitHub, lo que permite a los usuarios conectar sus repositorios, pedir explicaciones de código, generar nuevas funciones, detectar errores y mantener documentación. Esto cambia el rol del programador, que ya no se enfoca en escribir código, sino en supervisar, refactorizar y optimizar lo que la IA genera. Estudios recientes estiman que más del 60% del código generado por IA contiene errores o malas prácticas, por lo que el desarrollador humano sigue siendo clave. El nuevo perfil de programador es más parecido a un cirujano del código, que identifica los fallos, mejora lo que hay y adapta las soluciones de la IA a contextos reales y seguros.
...es como un programa de IA que promete revolucionar la forma en que trabajamos, pero en realidad solo nos da una versión beta con muchos errores. Aunque es interesante ver cómo la inteligencia artificial puede cambiar el rol del programador, el artículo no nos da suficientes detalles sobre cómo esto afectará a la industria en general. Es como si estuviéramos viendo un trailer de una película que promete mucho, pero no nos muestra el final. En resumen, el artículo es un buen comienzo, pero necesita más desarrollo y menos errores para ser realmente revolucionario.
es.gizmodo.com Informática
La Death Clock estima la fecha de muerte en función de 17 variables relacionadas con los hábitos

Este reloj no da la hora: revela cuántos días te quedan y podría cambiar tu vida

Tiago Forte, experto en productividad, ha creado una herramienta llamada Death Clock que estima la fecha de muerte de una persona en función de 17 variables relacionadas con sus hábitos, como el sueño, la alimentación y la actividad física. La herramienta utiliza inteligencia artificial y no busca exactitud científica, sino invitar a la reflexión sobre la mortalidad y el uso del tiempo. Al modificar los hábitos, se puede ver cómo se alargan los días proyectados, lo que puede cambiar la forma de vivir y priorizar las actividades.
...nos presenta un reloj que nos recuerda que el tiempo es finito, pero no nos da la hora. Ironías de la vida, ¿verdad? En serio, la idea de Tiago Forte es interesante, pero espero que no se convierta en una herramienta para obsesionados con la muerte. La vida es para vivirla, no para contar los días que nos quedan. Aunque, si esto nos hace priorizar lo importante, entonces ¡adelante con la Death Clock!
es.gizmodo.com Tecnología
Utiliza ValiDrive para comprobar la capacidad real de un USB

Cómo evitar que te timen con un Pendrive USB: consejos antes de comprar y cómo analizar la capacidad real de uno que tengas

Para evitar timos al comprar un USB, es importante leer detenidamente las descripciones, mirar la versión del USB, leer los comentarios y reseñas, desconfiar de los precios muy bajos y cuidar con las marcas y tiendas poco conocidas. Se puede utilizar el programa ValiDrive para comprobar la capacidad real de un USB, que realiza pruebas de 576 regiones del dispositivo conectado por USB y muestra los resultados de manera visual. También se puede utilizar H2testw, aunque es más lenta y difícil de usar. Es importante verificar los positivos recién comprados y devolver el producto si no cumple con las expectativas.
...es como un USB de 64 GB que promete mucho pero solo tiene 32 GB de contenido útil. Aunque ofrece algunos consejos interesantes, como utilizar ValiDrive para comprobar la capacidad real de un USB, se queda un poco corto en cuanto a profundidad y detalles. Sin embargo, es mejor que un USB defectuoso, así que merece una calificación de 7 sobre 10.
www.xataka.com Informática
Más de 500 sitios web de e-commerce han sido comprometidos

Alerta en el comercio electrónico: Cientos de tiendas online comprometidas por un ataque a la cadena de suministro

Un informe de Sansec revela que más de 500 sitios web de e-commerce han sido comprometidos por un ataque a la cadena de suministro, donde el código malicioso permaneció inactivo durante 6 años antes de activarse. Los atacantes infectaron a proveedores de software como Tigren, Magesolution y Meetanshi, que distribuyen extensiones para Magento. El objetivo es inyectar skimmers para robar información de tarjetas de crédito. Un cuarto proveedor, Weltpixel, también tiene casos de tiendas infectadas. Una empresa multinacional valorada en 40 mil millones de dólares está entre los afectados.
...es un recordatorio de que la seguridad en línea es un juego de escondite, donde los atacantes pueden permanecer ocultos durante años antes de hacer su movimiento. La noticia es alarmante, pero el título podría ser más específico. En cualquier caso, es un llamado a la acción para que los desarrolladores de software y los dueños de tiendas online tomen medidas para protegerse contra estos ataques. ¡No te dejes pillar con los pantalones bajos... o en este caso, con la tarjeta de crédito expuesta!
wwwhatsnew.com Informática
Share on Whatsapp Share on X Share on LinkedIn Share by Mail Copiar enlace