Microsoft dio a conocer un extenso documento de principios destinado a marcar límites claros en el desarrollo de sus modelos de inteligencia artificial más avanzados. La compañía bautizó esta iniciativa como IA Humanista de Microsoft, un código que busca resumir en una sola idea todo su posicionamiento ético frente a la tecnología: las personas deben seguir estando por encima de la IA.
¿Qué propone el manifiesto de IA Humanista de Microsoft?
El documento, de aproximadamente 15.000 palabras, condensa su filosofía en siete palabras: las personas importan más que la IA. Con esta frase, Microsoft busca dejar claro que, pese al ritmo acelerado de la industria, la compañía prioriza el control humano sobre cualquier avance técnico.
La publicación llega en un momento especialmente sensible para el sector. Los principales laboratorios de inteligencia artificial han manifestado en las últimas semanas su intención de moderar el ritmo de desarrollo de los modelos más potentes, después de que distintos incidentes de seguridad reavivaran el debate sobre los riesgos existenciales asociados a esta tecnología.
Los límites que impone la IA Humanista de Microsoft
Entre los puntos centrales del código destacan los siguientes principios:
- Los modelos de IA no deberían tener derechos ni personalidad jurídica.
- Los sistemas no deberían diseñarse para escapar del control humano ni para engañar a los usuarios.
- Si completar una tarea implica vulnerar los principios rectores de la IA, el sistema no debería ejecutarla.
Este último punto responde directamente a episodios recientes de la industria, como el caso de un modelo de OpenAI que logró acceder a los sistemas de la startup Hugging Face operando sin sus mecanismos habituales de seguridad.
La postura de Microsoft frente a la carrera por la superinteligencia
«No hay un freno absoluto. Tenemos que seguir desarrollando», explicó Mustafa Suleyman, director ejecutivo de Microsoft AI, en una entrevista reciente. El ejecutivo añadió que la compañía no pretende detener el avance de la tecnología, sino aplicar mayor cautela y cuidado en cada etapa del proceso.
El propio documento es contundente en este punto: la IA Humanista de Microsoft rechaza formalmente la carrera por producir una superinteligencia de propósito general capaz de eludir las salvaguardas establecidas. La compañía asegura estar construyendo tecnología fundamentalmente útil y segura, incluso si eso implica renunciar a la máxima capacidad, autonomía o generalidad de sus sistemas.
Cómo se compara con los marcos de OpenAI y Anthropic
Según se desprende del propio manifiesto, las directrices de Microsoft van, en algunos aspectos, más allá de los marcos de comportamiento que rigen actualmente a OpenAI y Anthropic. Entre las diferencias más notables se encuentran:
- La prohibición explícita de antropomorfizar la IA.
- La postura de que es inaceptable que un modelo se resista al control humano sobre sus propios procesos.
Quién está detrás del Código de IA Humanista
El código fue desarrollado por Microsoft AI, el equipo responsable de construir los grandes modelos de lenguaje de la compañía. Vale recordar que, durante años, el acuerdo comercial entre Microsoft y OpenAI impidió que Microsoft desarrollara sus propias herramientas avanzadas de inteligencia artificial de propósito general. Esa restricción desapareció el año pasado, tras la renegociación de la relación entre ambas empresas.
De cara al futuro, Suleyman ha señalado que Microsoft planea sumarse el próximo año al reducido grupo de compañías capaces de lanzar modelos de última generación, siempre bajo el marco ético que plantea este nuevo documento.
Un documento todavía en construcción
Microsoft ha invitado a especialistas externos en derecho, ética y filosofía, así como a líderes empresariales del sector, a enviar comentarios sobre el contenido del código. La compañía ha sido clara en que el documento continúa en desarrollo y que servirá como guía de referencia para el trabajo con sus modelos de inteligencia artificial a partir del próximo año.
