La empresa estadounidense de inteligencia artificial Anthropic anunció que suspendió el acceso a la versión más potente de su tecnología en cumplimiento de una orden del gobierno de Estados Unidos que invoca un riesgo de seguridad nacional.

Anthropic, creadora del chatbot Claude, informó el viernes por la noche del bloqueo de sus dos nuevos modelos puestos a disposición del público el martes: su versión muy restringida Mythos 5 y su variante limitada para el gran público, Fable 5.

El gobierno de Donald Trump ordenó, en virtud del control de exportaciones, cortar el acceso a estos modelos para «todo ciudadano extranjero, dentro o fuera de Estados Unidos», incluidos «los empleados extranjeros» de Anthropic, indica el comunicado de la empresa.

Al no poder filtrar a sus usuarios, Anthropic señala que se ha visto obligada a «desactivar de forma abrupta» ambos modelos para el conjunto de sus clientes.

La Unión Europea, que obtuvo acceso a Mythos a principios de junio tras varias semanas de negociaciones, declaró que esto subraya aún más «la necesidad de soberanía tecnológica de Europa».

«Tomamos nota de la declaración de Anthropic y estamos evaluando la situación», declaró Thomas Regnier, portavoz de la Comisión Europea, que este mes dio a conocer medidas destinadas a reducir la dependencia de los 27 Estados miembros de Estados Unidos y Asia en tecnologías clave, incluida la IA.

Según el medio estadounidense Axios, la directiva emana del secretario de Comercio, Howard Lutnick.

El gobierno estadounidense habría dado la orden tras enterarse de que una empresa había conseguido eludir las salvaguardas implantadas para estos modelos, conocidos por detectar y explotar fallos de ciberseguridad con una rapidez y una precisión sin precedentes.

Consultado por la AFP, el Departamento de Comercio no respondió de inmediato.

Anthropic cuestionó la decisión, que atribuyó a «un malentendido».

«No estamos de acuerdo con que el hallazgo de una posible vulnerabilidad (…), aunque limitada, deba ser motivo para retirar un modelo comercial que ya utilizan cientos de millones de personas», señala en el comunicado.

«Si este estándar se aplicara al conjunto del sector, creemos que prácticamente paralizaría todos los nuevos despliegues de modelos» de IA de vanguardia, añade la empresa, en primera línea de la competencia mundial frente a OpenAI, Google y la china DeepSeek.

Anthropic afirmó estar trabajando para restablecer «lo antes posible» el acceso a estos modelos de última generación, mientras que los demás siguen operativos.

«Intereses nacionales»

Fundada en 2021 por los hermanos Dario y Daniela Amodei y otros exejecutivos de OpenAI, Anthropic aboga desde hace tiempo por una regulación pública de la IA. En un ensayo publicado esta semana, Dario Amodei defendió un régimen de auditorías obligatorias para los modelos más potentes.

Pero esto debe hacerse «en el marco de un procedimiento legal transparente, justo, claro y basado en hechos técnicos», recuerda Anthropic en su comunicado. La directiva del viernes «no respeta estos principios», denuncia la empresa.

«La seguridad y el acceso son ambos intereses nacionales. Esta noche (del viernes), solo uno de los dos ha sido escuchado», señaló en X Vilas Dhar, presidente de una fundación filantrópica dedicada a la IA.

A principios de junio, Trump adoptó un control facultativo por parte del gobierno sobre los modelos más avanzados, un giro en una administración hasta ahora dominada por los opositores a cualquier regulación, acusada de frenar la competencia con China.

Fable 5 es el primer modelo hecho público perteneciente a la clase Mythos, la gama más avanzada de Anthropic.

La empresa había revelado la existencia de Mythos a principios de abril, pero restringió su uso a un consorcio de empresas e instituciones, el proyecto Glasswing, debido a sus capacidades para llevar a cabo ataques de ciberseguridad.

Fable 5 está limitado en ámbitos sensibles como la ciberseguridad y los riesgos de ataques biológicos y químicos. Su versión sin restricciones, Mythos 5, está reservada a unas 200 empresas, organizaciones y agencias estatales, ahora seleccionadas «en colaboración con el gobierno estadounidense», según Anthropic.

La seguridad, que Anthropic ha convertido en un argumento comercial central, ya enfrenta a la empresa con la administración Trump.

A principios de marzo, el Pentágono rescindió sus contratos con Anthropic, señalada como un «riesgo para la cadena de suministro». Anthropic acudió a la justicia: afirma haber sido sancionada por negarse a que su tecnología se utilizara para la vigilancia masiva o para armas autónomas.

Valorada en cerca de un billón de dólares, Anthropic anunció el 1 de junio que había presentado su solicitud de salida a Bolsa, al igual que su rival OpenAI.

El uso creciente de herramientas de inteligencia artificial en el ámbito legal ha derivado en sanciones para abogados que confiaron en exceso en la tecnología. En un reciente caso federal en Mississippi, cuatro abogados fueron multados tras presentar documentos con datos falsos generados por IA, situación que reaviva el debate sobre los riesgos de estas soluciones en la práctica jurídica.

El proceso involucró una disputa sobre honorarios en un proyecto solar, exponiendo las consecuencias del uso inadecuado de sistemas automatizados en expedientes judiciales.

El incidente ocurrió cuando representantes legales de ambas partes —el abogado Tom Withers III y la ciudad de Aberdeen, Mississippi— emplearon programas de inteligencia artificial que fabricaron referencias legales inexistentes o incluyeron casos ajenos a la legislación estatal. Aunque Withers no fue sancionado personalmente, sí lo fue parte de su equipo, al igual que dos abogados de la ciudad, después de que la jueza federal Sharion Aycock determinara que los profesionales no verificaron adecuadamente la información citada.

La magistrada argumentó que los cuatro abogados, “por su propia admisión, no comprobaron las autoridades legales citadas en sus escritos, en violación de la Regla 11”. Esta norma de las Reglas Federales de Procedimiento Civil exige que los abogados que presentan documentos ante el tribunal garanticen la veracidad de lo citado. “Todos los abogados están licenciados y, presumiblemente, bien formados en derecho. Su práctica de confiar ciegamente en la tecnología derivó en citas alucinadas en sus escritos respectivos”, escribió Aycock en su resolución.

La propagación del caso y el fenómeno de las “alucinaciones” de la IA

El caso adquirió notoriedad tras ser publicado por el abogado Rob Freund en la red social X, donde lo describió como una “comedia de errores de IA”. El portal 404 Media amplificó la noticia, atrayendo la atención de medios nacionales como The New York Times. La jueza Aycock no solo impuso multas a los abogados implicados, sino que también cerró el caso debido a los errores derivados del uso de inteligencia artificial.

Las llamadas “alucinaciones” de la IA refieren a errores o invenciones que los modelos de lenguaje automático generan al construir argumentos que parecen plausibles, pero que no tienen sustento en la realidad jurídica. Esta problemática pone en evidencia la necesidad de revisión humana constante al utilizar estas tecnologías en entornos legales.

Cambios normativos y advertencias del sector

El episodio de Mississippi no constituye un hecho aislado. Otros problemas recientes llevaron al estado de Nueva York a dictar nuevas reglas sobre el uso de IA generativa: desde el 1 de junio, los resultados generados por herramientas como ChatGPT no están protegidos por el privilegio abogado-cliente.

La American Bar Association (ABA), la mayor asociación de abogados en Estados Unidos, reconoció que los profesionales enfrentan desafíos complejos al incorporar IA en su labor diaria.

“Los abogados entienden que los resultados de la IA generativa requieren escrutinio y supervisión”, señaló la presidenta, Michelle A. Behnke, en declaraciones a CNET. La ABA ha creado un grupo de trabajo especializado en IA y, en diciembre, publicó un informe con recomendaciones, mejores prácticas y pautas éticas para el uso seguro de estas herramientas.

Entre sus consejos destaca la necesidad de que los abogados comprendan “los beneficios y riesgos asociados” a las tecnologías empleadas en la prestación de servicios legales. El mensaje del sector es claro: la adopción de inteligencia artificial en el ámbito legal debe ir acompañada de controles rigurosos y responsabilidad profesional.

Suecia dio un paso sin precedentes en el debate sobre el uso de la tecnología en la infancia. Las autoridades sanitarias del país recomendaron a los padres no entregar teléfonos inteligentes propios a los menores de 13 años, argumentando que existen riesgos que podrían afectar su bienestar, desarrollo y calidad de vida.

La decisión se suma a otras medidas impulsadas por el gobierno sueco para limitar la presencia de dispositivos móviles en entornos escolares y reducir la exposición temprana de los niños a las pantallas.

Los riesgos que preocupan a las autoridades

En un comunicado, la Agencia de Salud Pública sueca explicó que la nueva recomendación busca proteger a los menores de varios efectos asociados al uso de teléfonos inteligentes.

Según el organismo, el objetivo es “principalmente reducir el riesgo de que los niños se expongan a contenidos nocivos, desarrollen problemas de sueño o adquieran un patrón de uso similar a una adicción”.

Aunque las entrevistas realizadas a niños mostraron que valoran la posibilidad de mantenerse en contacto con familiares y amigos a través del celular, las autoridades concluyeron que los posibles efectos negativos son más significativos.

“El uso se asocia con distracción, presión social y exposición a contenidos y contactos nocivos”, señaló la entidad. Asimismo, destacó que diversos estudios también relacionan el uso frecuente de estos dispositivos con “un sueño de menor calidad”.

La alternativa: teléfonos sin acceso a internet

Las autoridades suecas no plantean una prohibición absoluta de los teléfonos para los menores. En cambio, sugieren una alternativa más limitada para quienes consideren necesario que sus hijos cuenten con un dispositivo móvil.

La recomendación es optar por un “teléfono sencillo”, es decir, un equipo que permita realizar llamadas y enviar mensajes, pero que no tenga acceso a internet ni a aplicaciones de redes sociales.

De esta manera, los niños podrían mantenerse comunicados con sus familiares sin estar expuestos a muchos de los riesgos asociados a los smartphones modernos.

Una estrategia más amplia para reducir el tiempo frente a las pantallas

La recomendación forma parte de una estrategia más amplia impulsada por Suecia para analizar y reducir los efectos del uso excesivo de pantallas en la infancia.

La Agencia de Salud Pública sueca recibió la tarea de investigar cómo influyen estos dispositivos en el desarrollo de los menores. Como parte de ese trabajo, en junio hizo un llamado a los padres para que dejaran a un lado sus propios teléfonos cuando compartieran tiempo con sus hijos.

Además, el gobierno sueco anunció en enero que prohibirá el uso de teléfonos inteligentes en las escuelas para estudiantes de hasta 15 o 16 años.

Con estas medidas, Suecia se convierte en uno de los países más activos en la búsqueda de límites al empleo de la tecnología entre niños y adolescentes, en medio de un debate global sobre los efectos que los smartphones y las redes sociales pueden tener en la salud física y mental de las nuevas generaciones.

*Con información de AFP.