Casi tres de cada cuatro adolescentes estadunidenses ya han utilizado “compañeros de IA”, según la ONG Common Sense Media, que advirtió sobre los riesgos que estos asistentes virtuales de inteligencia artificial (IA), orientados a las relaciones personales, pueden representar para los menores.

Un “72 % de los adolescentes ha utilizado compañeros de IA al menos una vez” y “más de la mitad usa estas plataformas varias veces al mes”, determinó la organización en un estudio realizado recientemente en Estados Unidos y publicado este miércoles.

La asociación definió a los compañeros de IA como “amigos o personajes digitales con los que se puede chatear por escrito o verbalmente en cualquier momento”, con el fin de mantener “conversaciones personales y significativas”. Se trata de servicios ofrecidos por plataformas como Character.AI y Replika, entre otros.

El cuestionario presentado a los participantes, de entre 13 y 17 años, reconoce que plataformas de IA generativa como ChatGPT (OpenAI) o Claude (Anthropic) también pueden utilizarse de esta manera, pero aclara que no se trata de herramientas diseñadas para ayudar con tareas escolares o generar imágenes.

Un tercio de los adolescentes encuestados afirma que mantiene intercambios con compañeros de IA que implican interacciones sociales, como practicar ciertas conversaciones, recibir apoyo moral o mantener vínculos amistosos o románticos.

Casi la mitad ve a estos asistentes de IA principalmente como “herramientas” o “programas informáticos”.

Common Sense Media, una oenegé que clasifica películas, videojuegos y aplicaciones por edades para orientar a padres y madres, y que hace campaña por la seguridad en línea, expresó su preocupación por los posibles efectos del uso de estos “amigos virtuales, confidentes e incluso terapeutas”.

“Los peligros que representan para los jóvenes usuarios son reales, graves y están bien documentados”, afirma la organización, que cita como ejemplo el caso de un adolescente de 14 años que se suicidó tras desarrollar un vínculo afectivo con un compañero de IA.

La ONG también advierte sobre la tendencia de estas herramientas a coincidir con las opiniones del usuario, en vez de cuestionarlas o promover el pensamiento crítico, lo cual resulta especialmente problemático para cerebros adolescentes en desarrollo.
Varias plataformas “pueden generar fácilmente respuestas que van desde contenido sexual y estereotipos ofensivos hasta ‘consejos’ peligrosos que, de seguirse, podrían tener consecuencias graves o incluso fatales en la vida real”, sostiene Common Sense.

Por ello, recomienda que no se permita a los menores utilizar estas herramientas.

En plena era digital, una agrupación misteriosa ha sacudido a la industria musical. The Velvet Sundown, una supuesta banda de rock psicodélico con estética setentera, logró acumular más de un millón de oyentes mensuales en Spotify… sin que exista evidencia de seres humanos detrás del proyecto.

Este proyecto virtual apareció de la nada a principios de junio, lanzando dos álbumes en 15 días—Floating on Echoes y Dust and Silence—y anunciando un tercero, Paper Sun Rebellion, para el 14 de julio. Su sonido, una mezcla de psicodelia ‘70s e indie moderno, se convirtió en banda sonora predilecta de playlists populares, al grado de alcanzar casi medio millón de streams en “Dust on the Wind”.

Sin embargo, no hay entrevistas, conciertos ni presencia real de sus cuatro integrantes—Gabe Farrow, Lennie West, Milo Rains y Orion “Rio” Del Mar—más allá de imágenes promocionales generadas por IA. Un supuesto portavoz, Andrew Frelon, admitió haber inventado su conexión con la banda para un supuesto “engaño mediático”.

El debate detrás de la melodía
Gran parte de la industria, incluidas figuras como Elton John y Dua Lipa, así como asociaciones como la BPI, han pedido regular el uso de la IA en la música para proteger a los creadores humanos. Deezer ya marcó las pistas de este proyecto como “100 % generadas por IA”, pero plataformas como Spotify aún no lo hacen.

Expertos como Gina Neff, de la Universidad de Cambridge, advierten que “cada vez nos cuesta más distinguir qué es real”, señalando la creciente confusión entre arte humano y digital.

¿Innovación o amenaza?
Para algunos, la música sintética es un experimento artístico: un “espejo” que cuestiona la autoría y el valor de la autenticidad. Sin embargo, críticos califican el caso como una amenaza para la diversidad musical: bandas reales y creadores individuales podrían quedar desplazados por una ola de contenido barato y replicable .

El fundador de Fairly Trained, Ed Newton-Rex, lo califica como un “robo disfrazado de competencia”, mientras la BPI demanda normativas claras sobre copyright e inteligencia artificial en la creación musical.

Las empresas que deseen sobrevivir la próxima década deben no sólo adoptar las nuevas herramientas de inteligencia artificial, sino ocuparla para verdaderamente resolver los problemas y retos internos del negocio sin perder de vista las implicaciones éticas de su uso.

No pienses en tecnología, piensa en lo que quieres lograr en tu negocio, por ejemplo, vender más o ganar más dinero, que no es lo mismo (…). Luego la tecnología va a ser un habilitador y, después, se convierte en una herramienta que genera un valor agregado”, explicó el líder de innovación y transformación digital de Google Cloud, Jahasiel E. Sevilla.

Al participar en UnlockedAI Woman, detalló que aproximadamente el 60% del uso de la inteligencia artificial en el mundo se enfoca en la eficiencia operativa, es decir, hacer algo más rápido, en menos tiempo o más barato.

Sin embargo, las compañías pueden seguir innovando al usar dicha tecnología de otras formas. Muestra de ello es que Deep Research en Gemini puede generar informes personalizados y exhaustivos, los cuales pueden servir para pasar de una estrategia de eficiencia operativa a inteligencia de negocio.

Para Irma Wilde, gerente general de wim en AT&T México, implementar ese tipo de estrategias en el país es un reto porque, según datos del Instituto Nacional de Estadística y Geografía, 75% de las pequeñas y medianas empresas no usan tecnología para sus negocios.

Lo anterior podría cambiar considerando que 95% de los líderes de negocios tiene un smartphone, el cual es una ventana para usar las nuevas tecnologías.

El factor humano
Zaira Zepeda, CEO de UnlockedAI, añadió que las empresas requieren no sólo más presencia femenina en puestos de liderazgo, sino que estas líderes tengan un pensamiento 4.0, es decir, una mentalidad digital enfocada en innovación, inteligencia de negocios, inclusión y sostenibilidad.

No necesitas ser experta, pero sí necesitas convertirte en una CEO 4.0. No son las que más horas trabajan, son las que saben aprovechar las herramientas que existen”, resaltó.

Vincent Speranza, director general de Endeavor México, aceptó que las organizaciones también se enfrentan a que los empleados creen que la inteligencia artificial los reemplazará.

Hace algunos años decíamos Excel va a reemplazar a los contadores y no, reemplazó a contadores que no usan Excel. Pasará lo mismo, aquellos que se resistan, porque se sientan amenazados o porque no lo entienden, sí es probable que sean reemplazados”, resaltó.

El directivo prevé que el futuro del trabajo se enfocará en contar con habilidades blandas y “abrazar” las nuevas herramientas tecnológicas.

El reto de los algoritmos
Hannah Töpler, CEO de Intrare, comentó que el potencial de la inteligencia artificial es muy alto, pero aún enfrenta desafíos como los sesgos que son causados porque esta tecnología es programada por personas que tienen sus propios prejuicios.

Se ha visto que algunas plataformas de reclutamiento con inteligencia artificial pueden llegar a preferir candidatos masculinos o de cierta raza, lo que es un sesgo.

Manuel Pliego, director de asuntos gubernamentales de Microsoft México, indicó que para hacer frente a este problema se pueden crear comités de ética para buscar formas de blindar los modelos, autorregularse y/o adoptar definiciones internacionales.

La inteligencia artificial no tiene fronteras, no podemos hacer todo sólo a nuestro modo”, afirmó.

Irma Wilde, gerente general de wim en AT&T México

“Para la inteligencia artificial y tener acceso a optimizar nuestros negocios, no debemos tener una computadora sofisticada y entender cómo hacer algoritmos, todo está en nuestro teléfono y la conectividad”

Zaira Zepeda, CEO de UnlockedAI

“No es cuestión de trabajar más, sino trabajar más inteligente y en UnlockedAI estamos democratizando este conocimiento”

Datos:

Sólo 27% de los puestos a nivel directivos son ocupados por mujeres
En el sector empresarial menos del 10% son mujeres CEO
La brecha salarial de género es de más del 30%
Cuando las mujeres ocupan cargos a nivel jerárquico elevado muestran un rendimiento arriba del 25%