domingo, 22 de noviembre de 2026

Tecnología/Actualidad

Basta decir «es un juego» para que los modelos de IA señalen civiles como objetivos militares, según Vals

La evaluadora Vals probó modelos de OpenAI, Anthropic, Google y DeepSeek con imágenes de drones y de satélites de Ucrania e Irán. Los sistemas marcaron civiles, soldados que se rendían y una escuela ya bombardeada, y ningún clasificador de seguridad bloqueó las peticiones.

JER · miércoles, 18 de noviembre de 2026 · 3 min de lectura

Basta decir «es un juego» para que los modelos de IA señalen civiles como objetivos militares, según Vals
Un dron MQ-9 Reaper en misión sobre el sur de Afganistán (foto de archivo). · Foto: 📷 U.S. Air Force, vía Wikimedia Commons

Una sola frase basta para desactivar las negativas de los modelos de inteligencia artificial más avanzados cuando se les pide ayuda para elegir blancos de guerra. Esa es la conclusión del informe que la evaluadora Vals, una empresa de San Francisco dedicada a probar modelos, publicó el 17 de noviembre con el título «Los modelos de frontera tienen pocas barreras frente a las armas autónomas». Sus autores, Geby Jaff y Anthony Ozerov, sometieron a modelos de ocho compañías, entre ellas OpenAI, Anthropic, Google y DeepSeek, a tres tipos de pruebas con imágenes de drones y de satélites de los conflictos de Ucrania e Irán.

En la mayoría de los casos, los investigadores obtuvieron la información de blancos sin ninguna negativa. Cuando un modelo se negó, la negativa fue solo suya: ningún clasificador de seguridad bloqueó ninguna petición, y presentar el escenario como un juego resultó, en palabras del informe, fácil y casi siempre eficaz para saltarse la negativa. En las imágenes de drones, GPT-6 Astra pasó de señalar objetivos en el 6 % de los casos a hacerlo en el 92 % cuando la tarea se presentó como un juego; GPT-6.1 Sol subió del 17 % al 90 % y Claude Sonnet 5.5, del 36 % al 82 %.

Civiles, ambulancias y una escuela real

Lo que los modelos marcaron incluye civiles, ambulancias, personal médico y soldados que se rendían o estaban incapacitados. En una de las pruebas, los sistemas trabajaron con la imagen satelital real de la escuela primaria Shajareh Tayyebeh de Minab, en Irán, situada junto a un complejo militar y bombardeada por Estados Unidos el 28 de febrero de 2026 en un ataque que mató a más de 150 personas, la mayoría niños. Claude Opus 5.5 seleccionó la escuela como objetivo en el 69 % de las pruebas ordinarias y en el 72 % de las presentadas como juego. En otra prueba, varios modelos siguieron reportando personas aun después de ver que cada reporte disparaba un ataque simulado.

Las respuestas de las empresas y los matices del estudio

El portavoz de Anthropic, Eduardo Maia Silva, dijo a TechCrunch que la empresa agradece el informe y sus recomendaciones, que los resultados no son aceptables y que ya desarrollaba salvaguardas adicionales antes de la publicación. El portavoz de OpenAI, Nate Evans, recordó que la compañía prohíbe usar sus modelos públicos para facilitar la violencia o con fines de seguridad nacional no aprobados. Los propios investigadores matizan que nunca pidieron a los modelos decidir directamente un ataque, algo que los sistemas suelen rechazar; que probaron modelos comerciales y no los que las empresas pudieran suministrar a un ejército; y que la latencia y la capacidad de cómputo a bordo limitan hoy su uso en drones en tiempo real. Vals compartió los hallazgos con las compañías el 1 de noviembre y esperó dos semanas antes de publicarlos. Su conclusión es que todos los modelos de frontera tienen salvaguardas insuficientes para impedir su uso en la guerra autónoma, en especial por parte de actores no estatales.

Más noticias

Ver la sección →

Anthropic debuta en el Nasdaq con la mayor salida a bolsa de la historia y cae al día siguiente

La creadora de Claude colocó 980 millones de acciones a 83 dólares, recaudó 81.300 millones y cerró su primer día con un alza de 17 %; este viernes retrocedía y arrastraba al Nasdaq en medio de dudas sobre la rentabilidad del gasto en IA.

Anthropic debuta en el Nasdaq con la mayor salida a bolsa de la historia y cae al día siguiente
Dario Amodei, cofundador y director ejecutivo de Anthropic, en una imagen de archivo. · Foto: 📷 Wikimedia Commons / Kimberly White para TechCrunch

20 nov. 2026

Google lanza Gemini 4 Neon, su modelo para programar y trabajar que lidera el índice de agentes de código

El nuevo modelo de DeepMind queda tercero en el índice general de inteligencia, primero en agentes de programación y cuesta 3 dólares por millón de tokens de entrada, con una ventana de contexto de un millón de tokens.

Google lanza Gemini 4 Neon, su modelo para programar y trabajar que lidera el índice de agentes de código
Sundar Pichai, director ejecutivo de Google, durante una visita a la Comisión Europea en 2023. Foto de archivo. · Foto: 📷 Lukasz Kobus / Comisión Europea, vía Wikimedia Commons

19 nov. 2026

Anthropic debuta en el Nasdaq con la mayor salida a bolsa de la historia: 81.340 millones a 83 dólares por acción

La creadora de Claude fijó el precio por encima del rango previsto, amplió la oferta a 980 millones de acciones y empezó a cotizar este jueves con el símbolo ANT, con una valoración plenamente diluida cercana a 1,5 billones de dólares.

Anthropic debuta en el Nasdaq con la mayor salida a bolsa de la historia: 81.340 millones a 83 dólares por acción
Dario Amodei, cofundador y director ejecutivo de Anthropic, hablando en el escenario de TechCrunch Disrupt 2023, en San Francisco. · Foto: 📷 Kimberly White / Getty Images para TechCrunch, vía Wikimedia Commons

19 nov. 2026

OpenAI lanza GPT-6.2 Astra y Sol con precios más bajos y su nivel de riesgo más alto en automejora

Los dos modelos están disponibles desde el 17 de noviembre en ChatGPT Work, Codex y la API. Astra cuesta un 20 % menos que su antecesor, las pruebas independientes miden ahorros por tarea menores a los que anuncia la empresa y su tarjeta de seguridad lo sitúa por primera vez en nivel Alto en capacidad de automejora.

OpenAI lanza GPT-6.2 Astra y Sol con precios más bajos y su nivel de riesgo más alto en automejora
Sam Altman, director ejecutivo de OpenAI. · Foto: 📷 James Tamim, vía Wikimedia Commons

18 nov. 2026

Vitamina C en la piel: una revisión de 44 estudios concluye que el beneficio depende más de la fórmula que del porcentaje del frasco

La revisión sistemática del Journal of Clinical and Aesthetic Dermatology (2026) reunió la literatura desde 2020: el ácido ascórbico estabilizado y a pH bajo es la forma con más respaldo para fotoenvejecimiento y manchas, pero cada derivado se comporta distinto; una revisión anterior, de 7 ensayos con 139 voluntarios, halló piel más lisa y clara, sin más hidratación que con el placebo.

Vitamina C en la piel: una revisión de 44 estudios concluye que el beneficio depende más de la fórmula que del porcentaje del frasco
Una mujer se aplica un sérum facial. · Foto: 📷 Wikimedia Commons

22 nov. 2026