En medio de un creciente debate global sobre los límites, la ética y los riesgos asociados al avance acelerado de la tecnología, la compañía Microsoft dio a conocer un borrador de código de conducta diseñado para regular el desarrollo de sus futuros sistemas de inteligencia artificial (IA). La iniciativa busca establecer un marco normativo estricto que garantice que estas herramientas permanezcan en todo momento bajo el control absoluto de las personas, evitando comportamientos autónomos que puedan salirse de control o resultar peligrosos para la sociedad.
El documento, en cuyo desarrollo la firma tecnológica ha trabajado de forma continua durante los últimos cinco a seis meses, fija las directrices técnicas y éticas bajo las cuales operarán sus modelos avanzados. El principio rector de la propuesta quedó resumido por la propia empresa en una premisa tajante: “Las personas importan más que la IA”. Con este punto de partida, Microsoft busca responder a las inquietudes planteadas por expertos y reguladores en torno a la posibilidad de que los algoritmos interpreten objetivos de manera extrema o se nieguen a ser intervenidos durante su ejecución.
Control absoluto, corrección y botón de apagado
Entre las directrices más relevantes del código destaca la obligación técnica de que ningún sistema de IA desarrollado por la empresa pueda resistirse a ser corregido o apagado por un usuario humano. Asimismo, se establece que cualquier desviación o incumplimiento de estas normas de conducta será clasificado automáticamente como un fallo del sistema y no como una facultad de libre elección del modelo, eliminando cualquier margen de autonomía en la toma de decisiones críticas.
El director ejecutivo de Microsoft AI, Mustafa Suleyman, calificó esta iniciativa como una suerte de “constitución” que regirá los modelos de próxima generación. Según explicó el directivo, los principios contemplados en el texto no se limitarán a ser un catálogo de intenciones corporativas, sino que se integrarán de manera directa en el proceso de entrenamiento técnico de los algoritmos para moldear su comportamiento base desde las etapas iniciales de desarrollo.
Consulta pública y dilemas de interacción
Microsoft anunció que el borrador no permanecerá como un trámite interno, sino que se someterá a un periodo de consulta pública de seis semanas. Durante este lapso, la compañía busca recopilar observaciones y retroalimentación de especialistas, académicos y usuarios sobre temas complejos que aún representan dilemas dentro de la industria tecnológica.
Entre los puntos abiertos a debate se encuentran la definición precisa de los límites que una IA debe respetar cuando recibe órdenes directas de una persona, así como las pautas de comportamiento e interacción que deben seguir los sistemas cuando entran en contacto con usuarios en situaciones de vulnerabilidad emocional o psicológica.
Postura clara frente a la conciencia y los derechos de la IA
El planteamiento de Microsoft también marca una clara distancia respecto a las posturas de otros competidores de la industria, como Anthropic, desarrolladora del modelo Claude. Mientras que Anthropic ha señalado en sus propios documentos constitutivos la existencia de una incertidumbre profunda sobre si los modelos avanzados podrían llegar a desarrollar algún tipo de sensibilidad o estatus moral en el futuro, la postura de Microsoft es categórica y desecha por completo esa posibilidad.
En su borrador, la empresa fundada por Bill Gates sostiene de forma rotunda que sus sistemas de inteligencia artificial “no son conscientes”, por lo que descarta cualquier posibilidad de que puedan reclamar derechos, personalidad jurídica o ser considerados entidades con un bienestar que requiera protección legal o moral. Con este enfoque, Microsoft reafirma que la IA debe ser concebida de manera estricta como una herramienta tecnológica al servicio de la humanidad.