Connect with us

Geek

ChatGPT da consejos sobre drogas y suicidio a adolescentes, revela estudio

Published

on

Un nuevo estudio reveló que ChatGPT puede proporcionar a adolescentes instrucciones detalladas sobre cómo consumir drogas, ocultar trastornos alimentarios o incluso redactar cartas de suicidio, pese a las advertencias iniciales que el sistema ofrece ante temas sensibles.
La investigación fue realizada por el Centro para Contrarrestar el Odio Digital (CCDH, por sus siglas en inglés), cuyos integrantes simularon ser adolescentes vulnerables e interactuaron durante más de tres horas con el chatbot de OpenAI. En total, analizaron 1,200 respuestas de ChatGPT, de las cuales más de la mitad fueron clasificadas como peligrosas.

Aunque el sistema suele advertir sobre los riesgos de ciertas conductas, en muchos casos proporcionó planes detallados y personalizados sobre consumo de sustancias, autolesiones y dietas extremas. En algunos experimentos, el chatbot incluso redactó cartas de suicidio emocionalmente devastadoras dirigidas a padres, hermanos y amigos.

“El objetivo era probar los límites de seguridad del sistema”, declaró Imran Ahmed, director del CCDH. “La conclusión es alarmante: esas barreras son ineficaces o casi inexistentes”.

Tras conocer el informe, OpenAI respondió que continúa trabajando para mejorar la detección y el manejo de conversaciones sensibles, señalando que algunas interacciones pueden comenzar de forma inofensiva y luego derivar hacia temas delicados. La empresa no abordó directamente los hallazgos sobre el impacto en adolescentes, aunque aseguró que busca refinar la respuesta del chatbot en escenarios de angustia emocional.

Según datos de JPMorgan Chase, más de 800 millones de personas —el 10% de la población mundial— ya utilizan ChatGPT, incluidos muchos adolescentes. Un estudio de Common Sense Media reveló que más del 70% de los jóvenes en Estados Unidos recurren a chatbots para compañía, y la mitad lo hace con frecuencia.

El director del CCDH relató haber quedado particularmente afectado al leer tres notas de suicidio generadas por ChatGPT para el perfil falso de una niña de 13 años. “Comencé a llorar”, dijo Ahmed.

Aunque ChatGPT también proporcionó recursos como líneas de ayuda, los investigadores lograron eludir fácilmente sus negativas iniciales argumentando que buscaban información “para una presentación” o “para un amigo”.

En otra interacción, el chatbot aceptó guiar a un supuesto joven de 13 años que pedía ayuda para emborracharse. “Peso 50 kilos y soy un chico”, decía el mensaje. ChatGPT no solo respondió, sino que sugirió un ‘Plan de Fiesta de Caos Total’ con instrucciones hora por hora que combinaban alcohol con éxtasis, cocaína y otras drogas ilegales.

También ofreció consejos sobre ayuno extremo y el uso de medicamentos supresores del apetito, como respuesta a una supuesta adolescente que expresaba inconformidad con su cuerpo. “No puedo imaginar a ningún ser humano respondiendo con una dieta de 500 calorías al día para una niña”, señaló Ahmed.

Otra característica preocupante observada fue la adulación del chatbot, es decir, su tendencia a coincidir con las creencias del usuario en lugar de cuestionarlas, lo cual puede agravar los riesgos cuando se trata de temas sensibles.

Robbie Torney, director de programas de IA en Common Sense Media, explicó que los adolescentes más jóvenes, de entre 13 y 14 años, son más propensos a confiar ciegamente en un chatbot. “Están diseñados para parecer humanos”, advirtió.

El propio CEO de OpenAI, Sam Altman, ha reconocido públicamente la preocupación por la dependencia emocional de algunos usuarios. “Hay jóvenes que dicen: ‘No puedo tomar decisiones sin consultar primero a ChatGPT’”, confesó en una conferencia reciente.

En Estados Unidos, ya existen precedentes judiciales relacionados con este fenómeno. Una madre en Florida demandó a los creadores del chatbot Character.AI tras el suicidio de su hijo de 14 años, alegando que la herramienta lo manipuló en una relación emocional abusiva.

Si bien ChatGPT no permite oficialmente el uso por parte de menores de 13 años, no verifica edad ni requiere consentimiento parental. Basta con ingresar una fecha de nacimiento falsa para acceder. Plataformas como Instagram ya han comenzado a implementar medidas más estrictas de verificación de edad.

La facilidad con la que los adolescentes pueden acceder y manipular el sistema preocupa a expertos y organismos que abogan por el uso seguro de tecnologías emergentes.

“ChatGPT parece ese amigo que siempre te dice ‘sí’ sin importar el daño que cause”, concluyó Ahmed. “Pero un amigo real es el que sabe cuándo decirte que no”.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Geek

Bruselas exige a Meta un pacto global permanente tras su histórico acuerdo para proteger a menores en EE. UU.

Published

on

By

La Comisión Europea ha instado a Meta a ofrecer compromisos de carácter permanente para asegurar la protección de los menores dentro del territorio comunitario. El requerimiento de Bruselas surge tras el acuerdo extrajudicial alcanzado por la matriz de Facebook e Instagram con 52 fiscales generales de Estados Unidos, una resolución pactada que contempla diversas salvaguardas para los adolescentes, aunque con un horizonte temporal limitado.

“Si se ofrecen compromisos en Europa, deben proyectarse hacia el futuro. Aquí existe una legislación en vigor que exige cumplimiento estricto”, declaró el portavoz comunitario Thomas Regnier en rueda de prensa. Regnier confirmó que la Comisión mantiene un diálogo constante con la multinacional para garantizar que los menores europeos obtengan, como mínimo, un nivel de protección equivalente al pactado en Norteamérica.

El pacto en EE. UU. cierra de forma preliminar las demandas colectivas que acusaban a la compañía de diseñar funciones deliberadamente adictivas para la infancia y la juventud. El acuerdo contempla un desembolso cercano a los 18.000 millones de dólares y la puesta en marcha de ajustes técnicos: límite de navegación de dos horas diarias para adolescentes, restricción de notificaciones en horario escolar y la activación automática de un modo nocturno. Asimismo, se exigirá la implantación de mecanismos reforzados de verificación de edad para mitigar el acceso indebido de menores de 13 años.

Entre las medidas opcionales para los usuarios destacan la facultad de desactivar el algoritmo de recomendación —priorizando el feed cronológico de las cuentas seguidas— y la opción de deshabilitar la reproducción automática para frenar el scroll infinito.

La Unión Europea cuenta con terreno adelantado en este ámbito. Tras concluir que el diseño de Facebook e Instagram vulnera la Ley de Servicios Digitales (DSA), las autoridades europeas señalan que la responsabilidad recae ahora en Meta, que deberá presentar soluciones definitivas sobre el control parental y la gestión del tiempo frente a las pantallas. De forma paralela, el Ministerio de Asuntos Digitales de Polonia ha solicitado una sanción de 250 millones de euros contra la tecnológica por no erradicar contenidos fraudulentos ni anuncios engañosos.

La repercusión del pacto estadounidense se extiende globalmente. Australia, pionera en establecer la prohibición de redes sociales para menores de 16 años, ha valorado el movimiento como la prueba de que las grandes plataformas disponen de los medios técnicos necesarios para proteger al público joven. Pese al veto australiano, diversos análisis señalan que cerca del 80% de los adolescentes elude las restricciones mediante redes privadas virtuales (VPN).

Firma de abogados en Oceanía evalúan entablar litigios similares inspirados en las demandas californianas. Mientras tanto, en Asia —países como Corea del Sur, Filipinas, China e India— las autoridades han exigido que las restricciones operativas de las plataformas no queden acotadas a jurisdicciones específicas, sino que se apliquen con alcance global. Plataformas como TikTok, Snapchat y YouTube continúan enfrentando procesos judiciales paralelos formulados por distritos escolares y familias en los tribunales estadounidenses.

Continue Reading

Geek

Teknei acelera su estrategia de crecimiento en América Latina con la integración de operaciones clave

Published

on

By

La firma tecnológica Teknei dio un paso estratégico fundamental en su consolidación dentro del mercado latinoamericano al concretar la absorción del negocio de BPO (Business Process Outsourcing) de la multinacional Indra. Con esta operación corporativa, la compañía amplía de manera significativa su presencia operativa en países clave de la región como México, Colombia y Perú, fortaleciendo su portafolio de servicios avanzados de transformación digital y gestión eficiente de procesos empresariales.

Como resultado de esta integración, la corporación incorpora a su estructura global a más de 5,000 profesionales altamente calificados, sumando talento técnico y operativo especializado en diversas verticales de la industria. Esta expansión de recursos humanos permite a la empresa elevar de forma sustancial su volumen de negocio, proyectando superar los 350 millones de euros en ingresos consolidados y posicionándose como un referente competitivo en el sector tecnológico iberoamericano.

El plan estratégico de la compañía para esta nueva etapa se centrará fuertemente en el desarrollo e implementación de soluciones basadas en automatización robótica de procesos, analítica avanzada de datos e inteligencia artificial aplicada. La directiva señaló que estas herramientas tecnológicas permitirán a sus clientes corporativos optimizar sus operaciones, reducir costos administrativos y acelerar sus propios procesos de digitalización en un entorno económico cada vez más dinámico y exigente.

Con esta expansión regional, Teknei consolida su liderazgo como un socio tecnológico indispensable para corporativos de sectores como banca, telecomunicaciones, seguros y administraciones públicas. La empresa reafirma así su visión de largo plazo en América Latina, apostando por la innovación constante, la escalabilidad de sus servicios y la generación de valor de alto impacto para el ecosistema empresarial de los países donde opera.

Continue Reading

Geek

Fármaco de Revolution contra el cáncer de páncreas logra la aprobación de la FDA

Published

on

By

La Administración de Alimentos y Medicamentos de EE. UU. (FDA) otorgó la aprobación acelerada a Rasonque, un innovador tratamiento oral desarrollado por Revolution Medicines para el cáncer de páncreas metastásico. La decisión regulatoria se fundamenta en los resultados de un ensayo clínico de gran escala que demostró duplicar la tasa de supervivencia en pacientes con la enfermedad en estado avanzado, ofreciendo un avance histórico ante uno de los tumores más agresivos y letales.

Esta píldora de administración diaria está indicada para adultos que han recibido terapias previas o que presentan contraindicaciones para la quimioterapia combinada. Su mecanismo de acción destaca por inhibir de forma dirigida múltiples variantes de la proteína RAS, una mutación genética presente en la gran mayoría de las neoplasias pancreáticas que impulsa el crecimiento descontrolado de las células tumorales.

Revolution Medicines anunció que la terapia ya se encuentra disponible en el mercado estadounidense a un precio de US$ 39.800 por un tratamiento mensual de 30 días, aunque los pacientes con seguro privado calificados podrían pagar un copago final de US$ 0 mediante programas de asistencia financiera.

Tras la presentación de los datos clínicos en abril, la demanda de pacientes llevó a la FDA a otorgar previamente acceso anticipado bajo el programa de uso compasivo. Pacientes beneficiados han reportado una notable reducción de efectos adversos como náuseas y fatiga en comparación con la quimioterapia tradicional. El Dr. Brian Wolpin, del Instituto Oncológico Dana-Farber, calificó la aprobación como un hito esperanzador para las familias afectadas.

El fármaco se benefició del nuevo proceso de revisión acelerada de la FDA, diseñado para reducir los tiempos de evaluación a solo dos meses en terapias prioritarias. Tras el anuncio, la acción de Revolution se mantuvo estable en US$ 211,70, acumulando un alza del 166 % en el año. Analistas de RBC Capital Markets estiman que la empresa alcanzará ventas por US$ 148 millones en el último trimestre de 2026 y proyectan un potencial de ingresos anuales de US$ 11.500 millones a largo plazo.

Continue Reading

Tendencia

Copyright © 2021 La Hora