Las grandes compañías tecnológicas recurren a la compra masiva y el escaneo destructivo de obras descatalogadas y raras para alimentar sus grandes modelos de lenguaje (LLM).

Una investigación periodística reveló la existencia del «Proyecto Panamá», un plan desarrollado por empresas de inteligencia artificial para escanear y digitalizar masivamente la producción escrita humana. Este procedimiento, de carácter destructivo, consiste en cortar el lomo de los libros e introducir las páginas sueltas en escáneres industriales de alta velocidad a un costo menor y en menor tiempo.

El patrón que encendió las alarmas

Libreros de viejo y anticuarios en España, Alemania, Países Bajos, Australia y Nueva Zelanda comenzaron a detectar órdenes de compra atípicas de obras en lenguas locales o sobre temas muy específicos. Tras abonar cuantiosos gastos de envío internacional sin reparar en costos, las empresas intermediarias destinaban los ejemplares a la digitalización industrial.

El fenómeno cobró relevancia tras revelarse un documento judicial en el marco de demandas colectivas presentadas por autores contra firmas como Anthropic por el uso no autorizado de sus obras.

Riesgos para la memoria cultural y el lenguaje

Expertos y comerciantes del sector advierten que este método genera graves inconvenientes:

• Pérdida de patrimonio: Existe el riesgo de destruir ejemplares únicos o de tiradas limitadas que no cuentan con ISBN o registros digitales previos.
• Falta de contexto: El proceso elimina metadatos valiosos (anotaciones, encuadernaciones artesanales, procedencia) esenciales para la investigación histórica.
• Degradación del contenido (datos sintéticos): Ante el agotamiento del material humano, entrenar a los modelos con textos generados por otras IA corre el riesgo de simplificar o viciar el lenguaje.

Como alternativa, especialistas proponen que sean las propias bibliotecas y libreros quienes digitalicen y licencien el patrimonio bibliográfico, garantizando tanto el entrenamiento de los algoritmos como la preservación física de los libros.

Un modelo de lenguaje tiene la capacidad de argumentar con solidez una política pública y, segundos más tarde, sostener la postura contraria. Mientras que en un ser humano esta versatilidad reflejaría flexibilidad mental o pura retórica, en la máquina obedece simplemente a un cambio de instrucción (prompt). La fluidez del texto no revela qué ha comprendido el sistema ni su grado de compromiso con lo que afirma.

Articular argumentos no equivale a comprender su significado real, su pertinencia o el alcance de sus consecuencias. En la experiencia humana, estas dimensiones operan entrelazadas bajo el concepto general de inteligencia. Sin embargo, el avance de la tecnología actual nos exige segmentar estos procesos de forma más rigurosa.

Para entender esta diferencia, la filosofía clásica distinguía entre ratio e intellectus. Como explicaba Tomás de Aquino, no se trata de dos mentes distintas, sino de dos modos de operar: la ratio avanza paso a paso infiriendo y justificando, mientras que el intellectus capta la verdad de fondo de forma inmediata. Hoy en día, un algoritmo puede replicar una cadena lógica impecable sin entender realmente por qué sus premisas son válidas o cuándo dejan de ser aplicables.

Aunque estas nociones nacieron para describir la mente humana, sirven de analogía para el entorno digital: los modelos organizan datos, completan esquemas argumentales y simulan inferencias con gran precisión. Su alto rendimiento discursivo no implica que posean inteligencia en sentido amplio, sino que han logrado automatizar la mecánica del razonamiento sin alcanzar la verdadera comprensión.

El intento de mecanizar el pensamiento viene de lejos. En el siglo XVII, Hobbes definió el razonamiento como un mero cálculo, y en 1950 Alan Turing replanteó el debate con su famoso «juego de imitación» para evaluar si una máquina podía hacerse pasar por humana. Aquel experimento abrió una fructífera ruta de investigación, pero no resolvió el misterio de qué significa pensar.

Por su parte, el procesamiento estadístico del lenguaje también tiene precedentes clave. En 1913, Andréi Márkov analizó miles de letras para calcular la probabilidad de transición entre vocales y consonantes, mientras que Claude Shannon construyó en 1948 patrones del idioma inglés agregando contexto. Aunque las frases resultantes parecían cada vez más naturales, carecían de intención comunicativa.

Los modelos actuales llevan esa lógica estadística a un nivel masivo: procesan fragmentos de texto y prevén la palabra más probable dentro de un contexto gigante. Su objetivo durante el preentrenamiento es generar secuencias coherentes, no verificar su veracidad. Por ello, una respuesta perfectamente redactada puede contener verdades o falsedades por igual, ya que la fluidez sintáctica no garantiza la validez de los datos.

Esta realidad genera un debate abierto en la comunidad científica. Parte de los lingüistas argumenta que manipular reglas del lenguaje sin contacto real con el mundo impide la existencia de un significado verdadero. En contraste, otros investigadores señalan que las complejas conexiones internas que aprende el modelo constituyen una forma válida de representación conceptual.

La evidencia actual muestra que estos sistemas han aprendido patrones lingüísticos extraordinariamente complejos, pero una respuesta correcta no demuestra la comprensión subyacente. En términos analógicos, la IA destaca como una herramienta avanzada de ratio, pero carece por completo de intellectus.

Esta distinción cobra vital importancia cuando las respuestas automáticas influyen en el mundo real. En el sector salud, un algoritmo puede resumir historiales médicos, pero es el especialista quien debe evaluar los síntomas y responsabilizarse del tratamiento. En el ámbito legal, la máquina redacta borradores de contratos en segundos, pero la validación y firma quedan en manos del abogado. En la investigación, los modelos pueden sugerir hipótesis, pero la validación empírica corresponde al científico.

A esto se suma un importante riesgo social: al atribuir capacidad intelectual a las máquinas basándonos solo en su velocidad y volumen, corremos el riesgo de redefinir la propia inteligencia humana bajo parámetros puramente cuantitativos. En una cultura impulsada por la eficiencia inmediata, procesos clave como la deliberación, la verificación de fuentes y el cuestionamiento crítico corren el peligro de ser relegados por considerarse improductivos.

El propio concepto de «inteligencia artificial» nació en la propuesta de 1955 para el histórico seminario de Dartmouth. Sus impulsadores planteaban que cualquier aspecto del aprendizaje podría describirse minuciosamente para ser simulado por una máquina. Conviene enfatizar ese verbo: simular los aspectos externos del pensamiento no equivale a replicar la mente en su totalidad.

Siete décadas después, los avances han superado cualquier previsión inicial, dando lugar a herramientas potentes que agilizan el trabajo intelectual. Sin embargo, resulta crucial evitar confundir el rendimiento técnico con la capacidad de comprensión. Saber responder no lo es todo; la verdadera inteligencia radica en entender el porqué de la respuesta, sus límites y cómo actuar ante ella.

Nuevas investigaciones con técnicas de edición de bases demuestran que es posible modificar el ADN embrionario con una precisión sin precedentes, lo que acerca la posibilidad de la terapia génica hereditaria, pero reabre intensos dilemas bioéticos.

Investigadores de la Universidad de Cambridge y la Universidad de Columbia han logrado modificar embriones humanos tempranos utilizando «edición de bases». Esta versión refinada de la tecnología CRISPR permite alterar letras individuales del ADN sin romper la cadena genética, reduciendo sustancialmente el riesgo de provocar anomalías cromosómicas graves en comparación con métodos anteriores.

Entre los principales hallazgos, el equipo de Cambridge desactivó el gen NANOG —fundamental para la formación del embrión y la placenta— para descifrar el desarrollo celular temprano. Por su parte, el estudio de Columbia intervino los genes PCSK9 y HBG, vinculados al control del colesterol y la producción de hemoglobina, confirmando una mayor exactitud en el proceso.

A pesar del avance, los científicos advierten que la aplicación clínica de esta tecnología afronta dos limitaciones técnicas críticas:

• Mosaicismo: la edición genética no siempre se refleja en la totalidad de las células del embrión.
• Efectos fuera de objetivo: alteraciones imprevistas en zonas no planificadas del genoma.

El progreso técnico ha reactivado la discusión ética mundial. Mientras la comunidad científica destaca su potencial para prevenir enfermedades hereditarias graves, expertos en bioética advierten sobre el riesgo de derivar hacia la creación de «bebés de diseño» y acentuar brechas de desigualdad social. Por el momento, la modificación de la línea germinal humana continúa prohibida en más de 70 países hasta contar con garantías absolutas de seguridad.