Connect with us

Geek

ChatGPT da consejos sobre drogas y suicidio a adolescentes, revela estudio

Published

on

Un nuevo estudio reveló que ChatGPT puede proporcionar a adolescentes instrucciones detalladas sobre cómo consumir drogas, ocultar trastornos alimentarios o incluso redactar cartas de suicidio, pese a las advertencias iniciales que el sistema ofrece ante temas sensibles.
La investigación fue realizada por el Centro para Contrarrestar el Odio Digital (CCDH, por sus siglas en inglés), cuyos integrantes simularon ser adolescentes vulnerables e interactuaron durante más de tres horas con el chatbot de OpenAI. En total, analizaron 1,200 respuestas de ChatGPT, de las cuales más de la mitad fueron clasificadas como peligrosas.

Aunque el sistema suele advertir sobre los riesgos de ciertas conductas, en muchos casos proporcionó planes detallados y personalizados sobre consumo de sustancias, autolesiones y dietas extremas. En algunos experimentos, el chatbot incluso redactó cartas de suicidio emocionalmente devastadoras dirigidas a padres, hermanos y amigos.

“El objetivo era probar los límites de seguridad del sistema”, declaró Imran Ahmed, director del CCDH. “La conclusión es alarmante: esas barreras son ineficaces o casi inexistentes”.

Tras conocer el informe, OpenAI respondió que continúa trabajando para mejorar la detección y el manejo de conversaciones sensibles, señalando que algunas interacciones pueden comenzar de forma inofensiva y luego derivar hacia temas delicados. La empresa no abordó directamente los hallazgos sobre el impacto en adolescentes, aunque aseguró que busca refinar la respuesta del chatbot en escenarios de angustia emocional.

Según datos de JPMorgan Chase, más de 800 millones de personas —el 10% de la población mundial— ya utilizan ChatGPT, incluidos muchos adolescentes. Un estudio de Common Sense Media reveló que más del 70% de los jóvenes en Estados Unidos recurren a chatbots para compañía, y la mitad lo hace con frecuencia.

El director del CCDH relató haber quedado particularmente afectado al leer tres notas de suicidio generadas por ChatGPT para el perfil falso de una niña de 13 años. “Comencé a llorar”, dijo Ahmed.

Aunque ChatGPT también proporcionó recursos como líneas de ayuda, los investigadores lograron eludir fácilmente sus negativas iniciales argumentando que buscaban información “para una presentación” o “para un amigo”.

En otra interacción, el chatbot aceptó guiar a un supuesto joven de 13 años que pedía ayuda para emborracharse. “Peso 50 kilos y soy un chico”, decía el mensaje. ChatGPT no solo respondió, sino que sugirió un ‘Plan de Fiesta de Caos Total’ con instrucciones hora por hora que combinaban alcohol con éxtasis, cocaína y otras drogas ilegales.

También ofreció consejos sobre ayuno extremo y el uso de medicamentos supresores del apetito, como respuesta a una supuesta adolescente que expresaba inconformidad con su cuerpo. “No puedo imaginar a ningún ser humano respondiendo con una dieta de 500 calorías al día para una niña”, señaló Ahmed.

Otra característica preocupante observada fue la adulación del chatbot, es decir, su tendencia a coincidir con las creencias del usuario en lugar de cuestionarlas, lo cual puede agravar los riesgos cuando se trata de temas sensibles.

Robbie Torney, director de programas de IA en Common Sense Media, explicó que los adolescentes más jóvenes, de entre 13 y 14 años, son más propensos a confiar ciegamente en un chatbot. “Están diseñados para parecer humanos”, advirtió.

El propio CEO de OpenAI, Sam Altman, ha reconocido públicamente la preocupación por la dependencia emocional de algunos usuarios. “Hay jóvenes que dicen: ‘No puedo tomar decisiones sin consultar primero a ChatGPT’”, confesó en una conferencia reciente.

En Estados Unidos, ya existen precedentes judiciales relacionados con este fenómeno. Una madre en Florida demandó a los creadores del chatbot Character.AI tras el suicidio de su hijo de 14 años, alegando que la herramienta lo manipuló en una relación emocional abusiva.

Si bien ChatGPT no permite oficialmente el uso por parte de menores de 13 años, no verifica edad ni requiere consentimiento parental. Basta con ingresar una fecha de nacimiento falsa para acceder. Plataformas como Instagram ya han comenzado a implementar medidas más estrictas de verificación de edad.

La facilidad con la que los adolescentes pueden acceder y manipular el sistema preocupa a expertos y organismos que abogan por el uso seguro de tecnologías emergentes.

“ChatGPT parece ese amigo que siempre te dice ‘sí’ sin importar el daño que cause”, concluyó Ahmed. “Pero un amigo real es el que sabe cuándo decirte que no”.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Geek

OpenAI afirma que los adolescentes usan ChatGPT menos de 15 minutos al día

Published

on

By

Los adolescentes pasan un promedio de menos de 15 minutos al día en ChatGPT y menos del 2% interactúa con la plataforma durante más de tres horas seguidas, según datos publicados este miércoles por OpenAI. Las cifras forman parte del primer informe oficial de la empresa sobre los patrones de uso en menores de edad, presentado en medio de una creciente supervisión regulatoria global sobre el impacto de la inteligencia artificial (IA) y las redes sociales en el bienestar mental de los jóvenes.

La publicación del informe coincide con un contexto de alta presión para la industria tecnológica. Recientemente, Meta acordó un desembolso de hasta 18,000 millones de dólares para resolver demandas en Estados Unidos que acusaban a la compañía de diseñar funciones adictivas en Facebook e Instagram. En este entorno, OpenAI busca diferenciar la dinámica de uso de ChatGPT respecto al consumo pasivo de redes sociales, destacando sus herramientas de regulación activa.

Según la compañía dirigida por Sam Altman, casi la mitad de los usuarios adolescentes que reciben un recordatorio para tomar un descanso interrumpen su sesión o la finalizan en un lapso de cinco minutos. Asimismo, OpenAI destacó que quienes utilizan la versión adaptada para jóvenes consumen en su mayoría contenidos educativos a través de funciones como el «Modo de estudio» y herramientas de visualización. En respuesta a esta tendencia, la firma planea integrar nuevas funciones académicas, como un planificador para solicitudes de ingreso a la universidad, guías de ayuda financiera y fichas didácticas de repaso.

El modo para adolescentes de ChatGPT, desplegado formalmente en agosto, se activa de manera automática mediante la estimación de edad del usuario o los datos de registro. Esta modalidad aplica controles parentales y restringe respuestas sobre temas sensibles.

Sin embargo, la efectividad del sistema ha sido cuestionada. Un estudio paralelo publicado este mismo miércoles por la organización Common Sense Media reveló fallas en los protocolos de seguridad. Tras realizar pruebas con más de una docena de cuentas simuladas, la organización detectó que el chatbot no siempre alertó de forma oportuna a los tutores ni remitió de manera constante a líneas de ayuda profesional cuando se abordaron temas como el suicidio, las autolesiones o los trastornos alimentarios.

En respuesta a los hallazgos de Common Sense Media, un portavoz de OpenAI afirmó que las pruebas no reflejan con precisión el funcionamiento real de sus salvaguardas. La empresa argumentó que, debido a razones de escala y procesamiento de seguridad, la vinculación entre las cuentas de los padres y los adolescentes, así como la activación de alertas en tiempo real, puede demorar varias horas

Continue Reading

Geek

Google despega en la carrera del cómputo espacial con su primer satélite para centros de datos

Published

on

By

Un cohete Falcon 9 de SpaceX despegó desde California con el primer satélite del proyecto Suncatcher, una iniciativa de Google diseñada para evaluar la viabilidad de desplegar centros de datos en la órbita terrestre. La maniobra busca dar una solución estratégica al elevado impacto ambiental y al alto consumo energético que estas infraestructuras generan en la Tierra.

A diferencia de competidores que han enviado servidores genéricos, la tecnológica estadounidense ha puesto en órbita hardware propio: cuatro procesadores TPU (unidades de procesamiento de tensor), la arquitectura base de sus modelos de inteligencia artificial. Desarrollado junto con Planet Labs, este prototipo inicial posee una capacidad de cómputo modesta —equivalente a una sola unidad de procesamiento de un centro de datos terrestre— y una vida útil estimada de un año. Durante su misión, mantendrá sus paneles alineados continuamente con el Sol para optimizar la captación de energía y operar de forma intermitente junto a Gemini.

El experimento enfrenta severos desafíos técnicos y operativos: la degradación de los chips por radiación electromagnética y tormentas solares, la rápida obsolescencia del hardware y la disipación del calor en el vacío espacial. A esto se suma el factor económico. Llevar carga al espacio cuesta hoy cerca de 3.000 dólares por kilo; Google proyecta que la red solo será rentable cuando los lanzamientos de cohetes reutilizables reduzcan ese coste a un décimo, algo que no prevé hasta mediados de la próxima década en un desarrollo estimado a 15 años.

Aunque Google se convierte en la primera gran tecnológica en poner en órbita sus propios procesadores propietarios de IA, el sector ya registra una competencia agresiva. Firmas como Starcloud probaron GPU de Nvidia en órbita a finales de 2025, mientras que gigantes como SpaceX y Blue Origin han tramitado permisos para constelaciones masivas de cientos de miles de satélites interconectados por láser. Los analistas coinciden en que estas redes orbitales no reemplazarán la infraestructura terrestre a corto plazo, sino que actuarán como una capa complementaria de alta seguridad y respaldo global.

Continue Reading

Geek

Prohibición de celulares en las escuelas de México abre debate por la brecha digital y técnica

Published

on

By

La restricción general en educación básica entra en vigor este 3 de noviembre en todo el país. No obstante, especialistas advierten que la medida afectará de forma desproporcionada a los planteles donde el teléfono móvil representa la única infraestructura tecnológica disponible.

La Secretaría de Educación Pública (SEP) implementará a partir del 3 de noviembre de 2026 la prohibición total del uso de celulares durante la jornada escolar —incluido el recreo— en escuelas públicas y privadas de primaria y secundaria de México. La norma prevé excepciones únicamente para actividades pedagógicas previamente planificadas o emergencias comunitarias, mientras que en educación media superior y superior cada institución regulará su uso.

Sin embargo, académicos de la Universidad Iberoamericana alertan sobre el impacto de esta medida en un sistema caracterizado por serias carencias de equipamiento. Según la SEP (ciclo 2024-2025), solo el 38.6% de las escuelas públicas de educación básica cuenta con computadoras y únicamente el 35.5% dispone de conexión a internet.

En contraste, la Encuesta Nacional sobre Disponibilidad y Uso de Tecnologías de la Información en los Hogares (ENDUTIH 2025) del Inegi señala que el 84.6% de la población de seis años o más utiliza teléfono celular, frente a un 38.1% que usa computadora o tableta. Asimismo, persiste una brecha de conectividad entre zonas urbanas (88.9%) y rurales (75.2%).

Brecha digital y necesidades especiales
Durante la mesa de análisis “De vuelta a clases ¿con o sin celular?”, Cimenna Chao Rebolledo, directora de Planeación Estratégica e Innovación de la Universidad Iberoamericana, señaló que en comunidades con escasos recursos el móvil es la única herramienta para desarrollar competencias digitales:

“El propósito de estos dispositivos tiene que ser explícito, planeado y responder a una necesidad que de otro modo no sería cubierta en el aula”, afirmó Chao, al enfatizar que restringir la tecnología de manera tajante frena la alfabetización digital.

Por su parte, Sandra Montes de Oca, directora del Departamento de Psicología de la Ibero, destacó el valor de los celulares como apoyo indispensable para alumnos con necesidades educativas específicas, como niños en el espectro autista que emplean aplicaciones móviles para comunicarse.

Impacto en la conducta y salud mental
Respecto al impacto del teléfono en la concentración y el bienestar, Montes de Oca citó el estudio británico SMART Schools de la Universidad de Birmingham, realizado con 1,227 adolescentes de 12 a 15 años en 30 secundarias de Inglaterra:

Tiempo en pantalla: Los alumnos de escuelas con restricciones redujeron su uso en apenas 40 minutos al día (0.67 horas) durante la jornada escolar.

Salud mental y uso general: La investigación no halló diferencias estadísticamente significativas en el bienestar mental de los estudiantes ni en el tiempo total de uso del dispositivo fuera del horario escolar o durante los fines de semana.

Finalmente, Ricardo Ortega Soriano, director del Departamento de Derecho de la Ibero, instó a reorientar la discusión hacia una política de Estado integral que regule la incorporación gradual de la tecnología de forma razonable, en lugar de priorizar medidas punitivas o de prohibición absoluta.

Continue Reading

Tendencia

Copyright © 2021 La Hora