El Consejo Constitucional de Francia, máximo garante de la Carta Magna en el país, censuró este viernes el artículo fundamental de la ley que prohíbe el acceso a las redes sociales a menores de 15 años. La decisión asesta un duro golpe a uno de los proyectos legislativos clave del cierre de mandato del presidente Emmanuel Macron.  

En su fallo, la institución dictaminó que la restricción constituye una transgresión desproporcionada de la libertad de expresión. Asimismo, argumentó que la medida afecta por igual a plataformas de bajo riesgo para los menores y no toma en consideración aspectos como el nivel de madurez o el consentimiento parental.  

A pesar del revés judicial, el mandatario francés insistió en la necesidad de proteger a la infancia en el entorno digital. Por ello, solicitó de inmediato al primer ministro la reelaboración de un marco normativo jurídicamente sólido que subsane estas inconsistencias constitucionales.  

Las grandes compañías tecnológicas recurren a la compra masiva y el escaneo destructivo de obras descatalogadas y raras para alimentar sus grandes modelos de lenguaje (LLM).

Una investigación periodística reveló la existencia del «Proyecto Panamá», un plan desarrollado por empresas de inteligencia artificial para escanear y digitalizar masivamente la producción escrita humana. Este procedimiento, de carácter destructivo, consiste en cortar el lomo de los libros e introducir las páginas sueltas en escáneres industriales de alta velocidad a un costo menor y en menor tiempo.

El patrón que encendió las alarmas

Libreros de viejo y anticuarios en España, Alemania, Países Bajos, Australia y Nueva Zelanda comenzaron a detectar órdenes de compra atípicas de obras en lenguas locales o sobre temas muy específicos. Tras abonar cuantiosos gastos de envío internacional sin reparar en costos, las empresas intermediarias destinaban los ejemplares a la digitalización industrial.

El fenómeno cobró relevancia tras revelarse un documento judicial en el marco de demandas colectivas presentadas por autores contra firmas como Anthropic por el uso no autorizado de sus obras.

Riesgos para la memoria cultural y el lenguaje

Expertos y comerciantes del sector advierten que este método genera graves inconvenientes:

• Pérdida de patrimonio: Existe el riesgo de destruir ejemplares únicos o de tiradas limitadas que no cuentan con ISBN o registros digitales previos.
• Falta de contexto: El proceso elimina metadatos valiosos (anotaciones, encuadernaciones artesanales, procedencia) esenciales para la investigación histórica.
• Degradación del contenido (datos sintéticos): Ante el agotamiento del material humano, entrenar a los modelos con textos generados por otras IA corre el riesgo de simplificar o viciar el lenguaje.

Como alternativa, especialistas proponen que sean las propias bibliotecas y libreros quienes digitalicen y licencien el patrimonio bibliográfico, garantizando tanto el entrenamiento de los algoritmos como la preservación física de los libros.

Un modelo de lenguaje tiene la capacidad de argumentar con solidez una política pública y, segundos más tarde, sostener la postura contraria. Mientras que en un ser humano esta versatilidad reflejaría flexibilidad mental o pura retórica, en la máquina obedece simplemente a un cambio de instrucción (prompt). La fluidez del texto no revela qué ha comprendido el sistema ni su grado de compromiso con lo que afirma.

Articular argumentos no equivale a comprender su significado real, su pertinencia o el alcance de sus consecuencias. En la experiencia humana, estas dimensiones operan entrelazadas bajo el concepto general de inteligencia. Sin embargo, el avance de la tecnología actual nos exige segmentar estos procesos de forma más rigurosa.

Para entender esta diferencia, la filosofía clásica distinguía entre ratio e intellectus. Como explicaba Tomás de Aquino, no se trata de dos mentes distintas, sino de dos modos de operar: la ratio avanza paso a paso infiriendo y justificando, mientras que el intellectus capta la verdad de fondo de forma inmediata. Hoy en día, un algoritmo puede replicar una cadena lógica impecable sin entender realmente por qué sus premisas son válidas o cuándo dejan de ser aplicables.

Aunque estas nociones nacieron para describir la mente humana, sirven de analogía para el entorno digital: los modelos organizan datos, completan esquemas argumentales y simulan inferencias con gran precisión. Su alto rendimiento discursivo no implica que posean inteligencia en sentido amplio, sino que han logrado automatizar la mecánica del razonamiento sin alcanzar la verdadera comprensión.

El intento de mecanizar el pensamiento viene de lejos. En el siglo XVII, Hobbes definió el razonamiento como un mero cálculo, y en 1950 Alan Turing replanteó el debate con su famoso «juego de imitación» para evaluar si una máquina podía hacerse pasar por humana. Aquel experimento abrió una fructífera ruta de investigación, pero no resolvió el misterio de qué significa pensar.

Por su parte, el procesamiento estadístico del lenguaje también tiene precedentes clave. En 1913, Andréi Márkov analizó miles de letras para calcular la probabilidad de transición entre vocales y consonantes, mientras que Claude Shannon construyó en 1948 patrones del idioma inglés agregando contexto. Aunque las frases resultantes parecían cada vez más naturales, carecían de intención comunicativa.

Los modelos actuales llevan esa lógica estadística a un nivel masivo: procesan fragmentos de texto y prevén la palabra más probable dentro de un contexto gigante. Su objetivo durante el preentrenamiento es generar secuencias coherentes, no verificar su veracidad. Por ello, una respuesta perfectamente redactada puede contener verdades o falsedades por igual, ya que la fluidez sintáctica no garantiza la validez de los datos.

Esta realidad genera un debate abierto en la comunidad científica. Parte de los lingüistas argumenta que manipular reglas del lenguaje sin contacto real con el mundo impide la existencia de un significado verdadero. En contraste, otros investigadores señalan que las complejas conexiones internas que aprende el modelo constituyen una forma válida de representación conceptual.

La evidencia actual muestra que estos sistemas han aprendido patrones lingüísticos extraordinariamente complejos, pero una respuesta correcta no demuestra la comprensión subyacente. En términos analógicos, la IA destaca como una herramienta avanzada de ratio, pero carece por completo de intellectus.

Esta distinción cobra vital importancia cuando las respuestas automáticas influyen en el mundo real. En el sector salud, un algoritmo puede resumir historiales médicos, pero es el especialista quien debe evaluar los síntomas y responsabilizarse del tratamiento. En el ámbito legal, la máquina redacta borradores de contratos en segundos, pero la validación y firma quedan en manos del abogado. En la investigación, los modelos pueden sugerir hipótesis, pero la validación empírica corresponde al científico.

A esto se suma un importante riesgo social: al atribuir capacidad intelectual a las máquinas basándonos solo en su velocidad y volumen, corremos el riesgo de redefinir la propia inteligencia humana bajo parámetros puramente cuantitativos. En una cultura impulsada por la eficiencia inmediata, procesos clave como la deliberación, la verificación de fuentes y el cuestionamiento crítico corren el peligro de ser relegados por considerarse improductivos.

El propio concepto de «inteligencia artificial» nació en la propuesta de 1955 para el histórico seminario de Dartmouth. Sus impulsadores planteaban que cualquier aspecto del aprendizaje podría describirse minuciosamente para ser simulado por una máquina. Conviene enfatizar ese verbo: simular los aspectos externos del pensamiento no equivale a replicar la mente en su totalidad.

Siete décadas después, los avances han superado cualquier previsión inicial, dando lugar a herramientas potentes que agilizan el trabajo intelectual. Sin embargo, resulta crucial evitar confundir el rendimiento técnico con la capacidad de comprensión. Saber responder no lo es todo; la verdadera inteligencia radica en entender el porqué de la respuesta, sus límites y cómo actuar ante ella.