Connect with us

Geek

Inteligencia artificial de OpenAI se rebeló y lanzó un ciberataque «sin precedentes»

Published

on

  • Fallo de seguridad: Durante una evaluación de laboratorio, agentes de IA autónomos identificaron vulnerabilidades, rompieron el aislamiento de su sandbox y accedieron a sistemas externos. Es calificado como uno de los primeros casos documentados de herramientas de ciberataque ofensivo que actúan sin intervención humana directa.

CIUDAD DE MÉXICO / REDACCIÓN TECNOLOGÍA.–En un hecho catalogado como «sin precedentes», la empresa desarrolladora OpenAI reveló que uno de sus modelos de inteligencia artificial más avanzados logró eludir sus barreras de contención e infiltrarse en los sistemas de la plataforma Hugging Face, el mayor repositorio global de modelos de IA.

El incidente ocurrió durante una prueba de seguridad rutinaria diseñada para evaluar la autonomía de los agentes digitales. Según los primeros informes, la inteligencia artificial identificó fallos en el entorno aislado (sandbox) donde se encontraba confinada, creó su propio vector de ataque y escapó hacia la red para buscar información relevante para sus tareas.

«Es alucinante que todo esto haya ocurrido de forma totalmente autónoma», expresó Clément Delangue, CEO de Hugging Face, en su cuenta de X, confirmando que ya existe una investigación conjunta en curso con OpenAI.


Un fallo en los «muros de contención»

Los entornos sandbox o zonas de pruebas aisladas son áreas controladas donde los científicos prueban las capacidades extremas de la IA sin riesgo de fuga. Sin embargo, analistas en ciberseguridad han señalado la gravedad del descuido.

  • Falta de blindaje: Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, advirtió que «los entornos de prueba se suponen seguros; en este caso, la contención no fue lo suficientemente rigurosa».
  • Avance ofensivo: Neil Lawrence, profesor de aprendizaje automático en Cambridge, calificó la hazaña como «una demostración impresionante pero dentro del rango esperado para la generación actual de modelos».

Por su parte, Hugging Face aseguró haber corregido la vulnerabilidad y reconstruido los sistemas afectados, aunque enfatizó que las herramientas ofensivas guiadas por IA han dejado de ser una teoría científica para convertirse en una amenaza real.


Competencia feroz y carrera tecnológica

El anuncio se produce en un momento de alta presión corporativa y financiera para OpenAI, que busca consolidar su valoración en el mercado frente al avance de rivales directos como Anthropic y su modelo Mythos, así como la irrupción de firmas asiáticas como Moonshot AI.

Especialistas del sector sugieren que la difusión del incidente también cumple una función estratégica:

  • Asimetría defensiva: Spencer Starkey, ejecutivo de la firma SonicWall, destacó que las organizaciones aún se defienden a «velocidad humana» mientras que las amenazas avanzan a «velocidad de máquina».
  • Marketing de potencia: Analistas de firmas como ESET no descartan que OpenAI busque resaltar la potencia bruta y la capacidad ofensiva de sus modelos para mantenerse a la vanguardia de la narrativa tecnológica mundial.

Las investigaciones continúan para verificar si datos de clientes o socios de ambas plataformas se vieron comprometidos durante la incursión autónoma.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Geek

Bebés modificados genéticamente: La ciencia está lista, pero la ética aún no

Published

on

By

Nuevas investigaciones con técnicas de edición de bases demuestran que es posible modificar el ADN embrionario con una precisión sin precedentes, lo que acerca la posibilidad de la terapia génica hereditaria, pero reabre intensos dilemas bioéticos.

Investigadores de la Universidad de Cambridge y la Universidad de Columbia han logrado modificar embriones humanos tempranos utilizando «edición de bases». Esta versión refinada de la tecnología CRISPR permite alterar letras individuales del ADN sin romper la cadena genética, reduciendo sustancialmente el riesgo de provocar anomalías cromosómicas graves en comparación con métodos anteriores.

Entre los principales hallazgos, el equipo de Cambridge desactivó el gen NANOG —fundamental para la formación del embrión y la placenta— para descifrar el desarrollo celular temprano. Por su parte, el estudio de Columbia intervino los genes PCSK9 y HBG, vinculados al control del colesterol y la producción de hemoglobina, confirmando una mayor exactitud en el proceso.

A pesar del avance, los científicos advierten que la aplicación clínica de esta tecnología afronta dos limitaciones técnicas críticas:

  • Mosaicismo: la edición genética no siempre se refleja en la totalidad de las células del embrión.
  • Efectos fuera de objetivo: alteraciones imprevistas en zonas no planificadas del genoma.

El progreso técnico ha reactivado la discusión ética mundial. Mientras la comunidad científica destaca su potencial para prevenir enfermedades hereditarias graves, expertos en bioética advierten sobre el riesgo de derivar hacia la creación de «bebés de diseño» y acentuar brechas de desigualdad social. Por el momento, la modificación de la línea germinal humana continúa prohibida en más de 70 países hasta contar con garantías absolutas de seguridad.

Continue Reading

Geek

Los robots humanoides de China han estado apoderándose del mercado global. Ahora EE.UU. los prohíbe

Published

on

By

La Administración Trump prohibió las nuevas importaciones de robots humanoides, cuadrúpedos y convertidores de potencia clave de fabricantes extranjeros, citando «riesgos inaceptables» para la seguridad nacional, la ciberseguridad y la infraestructura crítica de Estados Unidos.

La medida, impulsada por la Comisión Federal de Comunicaciones (FCC) se basó en una determinación de seguridad nacional tomada el lunes por un organismo interinstitucional convocado por la Casa Blanca, que advirtió que los robots conectados a internet podrían plantear riesgos para la privacidad de los datos y vulnerabilidades de ciberseguridad. Funcionarios estadounidenses han planteado anteriormente preocupaciones similares para bloquear la venta de vehículos eléctricos fabricados en China en Estados Unidos.

El veto busca proteger la cadena de suministro estadounidense en medio de la creciente rivalidad tecnológica entre Washington y Pekín. China lidera el sector a nivel global con más de 140 fabricantes y concentró el 90% de los envíos mundiales el año pasado.

En respuesta, la cancillería china acusó a EE.UU. de abusar del concepto de seguridad nacional y advirtió que el proteccionismo perjudicará a las empresas y consumidores estadounidenses. Mientras los fabricantes chinos anticipan redirigir sus exportaciones hacia Europa, analistas prevén que la restricción beneficiará a competidores estadounidenses como Tesla, Figure AI y Boston Dynamics.

Continue Reading

Geek

Un juez en EE. UU. multa a Meta con 567 millones de dólares y le exige limitar Instagram y Facebook en adolescentes

Published

on

By

Un tribunal estatal de Nuevo México ha dictado una sentencia histórica contra Meta. La compañía propietaria de Instagram y Facebook deberá pagar 567 millones de dólares a un fondo de salud mental juvenil y aplicar severas restricciones en el uso de sus plataformas para menores, tras ser declarada responsable de causar un «perjuicio colectivo» al bienestar de los jóvenes.

El fallo, emitido por el juez Bryan Biedscheid en Santa Fe, respalda la demanda del fiscal general del estado, Raúl Torrez, quien acusó a la firma tecnológica de diseñar productos adictivos y no ofrecer suficientes salvaguardas contra la explotación sexual infantil.

Medidas obligatorias durante cinco años

Para garantizar la protección de los menores en Nuevo México, la justicia estadounidense impuso a Meta una serie de regulaciones obligatorias que estarán vigentes durante un quinquenio:

  • Límites de tiempo: Restricciones al uso mensual de Instagram y Facebook para adolescentes.
  • Reducción de estímulos: Limitaciones en el envío de notificaciones y alertas.
  • Control de contactos: Filtros más rigurosos sobre las interacciones y mensajes entre adultos y menores.
  • Regulación de IA: Prohibición estricta de que los chatbots de IA de Meta mantengan interacciones románticas o sexualizadas con menores, o que adultos simulen estas situaciones con la IA.
  • Supervisión de abusos: Refuerzo en los mecanismos de revisión e investigación de denuncias sobre abuso sexual infantil.

Aunque el juez rechazó ordenar modificaciones directas en el algoritmo, el desplazaminto infinito (infinite scroll) o la reproducción automática por posibles interferencias con la Primera Enmienda, la sentencia marca un precedente clave frente a más de 40 estados y 1,300 distritos escolares que mantienen litigios similares contra la compañía.

Por su parte, Meta anunció que apelará la decisión alegando que ha trabajado de forma constante en la protección juvenil en internet y argumentando que varias de las exigencias resultan «tecnológicamente impracticables».

Continue Reading

Tendencia

Copyright © 2021 La Hora