Saltar al contenido

Nacional · Internacionales

Principal · Tecnología

Microsoft lanza iniciativa para hacer más transparente y seguro el desarrollo de la inteligencia artificial

admin

La inteligencia artificial avanza a gran velocidad, pero la falta de transparencia sobre el funcionamiento de sus modelos representa uno de los principales desafíos para garantizar su desarrollo responsable. Ante este panorama, Microsoft anunció una iniciativa para impulsar sistemas más verificables, seguros y sujetos a estándares que permitan conocer mejor sus capacidades y límites.

El director ejecutivo de la compañía, Satya Nadella, presentó este martes la Iniciativa de Transparencia de Inteligencia Artificial (IA) durante Microsoft Ignite, la conferencia anual de la empresa que se celebra del 17 al 20 de noviembre.

Durante su intervención, el directivo cuestionó que los modelos actuales operen como un conjunto de “cajas negras” anidadas, una situación que dificulta examinar cómo funcionan, qué información procesan y qué acciones pueden realizar.

Nadella sostuvo que la innovación tecnológica no debe estar enfrentada a la seguridad. Por ello, explicó que Microsoft trabaja tanto en sus propios productos como en el ecosistema de inteligencia artificial para establecer condiciones que permitan desarrollar esta tecnología con rapidez y escala, pero bajo mecanismos de supervisión.

El ejecutivo también destacó la necesidad de contar con estándares que permitan examinar qué ve y hace la IA, además de establecer controles sobre sus límites. La propuesta busca que los sistemas puedan ser evaluados de manera independiente y que las organizaciones tengan mayores herramientas para comprender su funcionamiento.

Los tres pilares de la iniciativa de Microsoft

La propuesta presentada por Nadella contempla tres líneas de acción para impulsar la transparencia y la seguridad en el desarrollo de inteligencia artificial.

La primera consiste en ampliar la colaboración con la iniciativa de estándares de agentes del Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST, por sus siglas en inglés). El objetivo es contribuir al desarrollo de normas abiertas que puedan utilizar distintas empresas y organizaciones de la industria.

El segundo pilar plantea fortalecer un enfoque de colaboración entre diferentes actores del sector tecnológico. Según Nadella, alrededor de 40 organizaciones ya participan en este esfuerzo, que busca establecer criterios compartidos para el desarrollo y la evaluación de sistemas de IA.

La tercera línea contempla incorporar esos mismos estándares en los productos de Microsoft, incluidos Copilot, Foundry y los modelos de inteligencia artificial desarrollados por la propia compañía. De esta manera, la empresa pretende trasladar los principios de transparencia y seguridad a las herramientas que ofrece a sus clientes.

La regulación de la inteligencia artificial, otro desafío

El anuncio se produce en un contexto en el que Estados Unidos todavía carece de una regulación federal integral de la inteligencia artificial. Ante el crecimiento de esta tecnología y su incorporación en distintas actividades económicas y sociales, varias compañías del sector han señalado la necesidad de establecer normas globales.

La iniciativa de Microsoft busca contribuir a ese debate mediante estándares abiertos y mecanismos de evaluación que permitan examinar el comportamiento de los modelos, en lugar de depender únicamente de las declaraciones de sus desarrolladores.

El planteamiento de Nadella parte de que la confianza en la inteligencia artificial requiere conocer mejor cómo operan estos sistemas, cuáles son sus capacidades y dónde se encuentran sus límites. Para ello, considera necesario que la industria trabaje de manera coordinada y que las medidas de seguridad formen parte del diseño y desarrollo de los productos.

Con esta iniciativa, Microsoft busca extender sus esfuerzos más allá de sus propias herramientas y promover criterios comunes para el ecosistema tecnológico. El reto será convertir esos principios en estándares aplicables y verificables que acompañen el crecimiento de la inteligencia artificial sin frenar su innovación.

Dejar un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Scroll al inicio