¿Quieres ser la persona de tu organización capaz de detectar cuándo un sistema de IA presenta sesgos, es inseguro o incumple la normativa, antes de que se convierta en un problema? ¿Puedes responder con seguridad a la pregunta «¿cómo gestionamos el uso de la IA?»? ¿Serías capaz de crear el marco de evaluación de riesgos y gobernanza que aún no tiene tu organización?
Hoy en día, toda organización que utilice la inteligencia artificial necesita al menos una persona capaz de hacer todas estas cosas. Este programa está diseñado para que esa persona seas tú.
Este programa de ocho semanas ha sido diseñado por Toju Duke, una experta en IA responsable y gestión de riesgos reconocida a nivel mundial y antigua directora del programa de IA responsable en Google. Dirigió los procesos de gobernanza de algunos de los modelos de IA más grandes de la empresa y ahora forma a expertos en IA responsable en todo el mundo.
Toju es autor de dos libros sobre el tema, entre ellos la primera guía práctica sobre la evaluación y la gestión de riesgos de la IA, y se basa en esa experiencia para ofrecer a los participantes un marco de referencia, no solo un conjunto de ideas.
Las sesiones son prácticas y participativas en todo momento: los participantes simulan situaciones de crisis, analizan sistemas reales de IA en busca de sesgos ocultos y problemas de privacidad, corrigen un caso real de sesgo de género en un modelo de concesión de préstamos y diseñan su propio proceso de evaluación de riesgos por niveles. Cada semana se va avanzando hacia la creación de un marco de gobernanza de la IA funcional que los participantes puedan aplicar directamente en su propia organización.
Al finalizar, los participantes se llevan consigo ese marco de referencia, junto con una comprensión sólida y práctica de cómo identificar, evaluar y reducir los riesgos relacionados con la IA. Está dirigido a cualquier persona que trabaje en el ámbito de la ética, la gobernanza o los riesgos de la IA, desde los departamentos de Asuntos Jurídicos, Recursos Humanos y Operaciones hasta Ingeniería, Gestión de Programas y Productos, y la dirección.
Fecha de inicio: miércoles, 26 de agosto de 2026
Hora: 16:00, hora del Reino Unido
Duración de la clase magistral: 60 minutos x 8 semanas
Datos para participar: el enlace de Zoom y la información del calendario se enviarán tras la confirmación
Se entregará un certificado al finalizar todas las sesiones
Número máximo de participantes: mínimo 10, máximo 30
Para establecer los principios fundamentales de la IA responsable, hay que volver a lo básico y diferenciar los distintos aspectos de la ética de la IA, como la «IA ética», la «IA responsable» y la «gobernanza de la IA».
Mediante una analogía con la compra con los ojos vendados, los participantes aprenderán los principios filosóficos y morales fundamentales que sirven de guía el desarrollo justo, seguro, centrado en las personas y sostenible de la IA.
A continuación, pasaremos a una sesión interactiva titulada «Descubriendo las naranjas podridas». Los asistentes tendrán la tarea que identifiquen las «naranjas podridas» (sesgos ocultos), los «huevos rotos» (filtraciones de privacidad), y los elementos sustituidos por completo (características tóxicas no deseadas) en un modelo de IA y un ámbito seleccionados.
La clase concluirá con una sencilla evaluación de riesgos del modelo de IA que hayan elegido utilizando una estructura por niveles que va el más crítico al menos crítico.
Conclusión clave: Los sistemas de IA deben someterse a evaluaciones de riesgos antes de que se puedan llevar a cabo auditorías de IA.
Hay varios aspectos importantes del ciclo de vida del desarrollo de aprendizaje automático (ML) e inteligencia artificial (IA) que debes tener en cuenta, desde la adquisición o el desarrollo hasta la implementación, el uso, la IA responsable y los procesos de gobernanza de la IA.
Analizaremos en profundidad el marco de IA responsable basado en ocho pilares, y aprenderemos las distintas áreas relacionadas con la seguridad de la IA durante su uso y adopción. También revisaremos casos prácticos que pongan de relieve los aspectos positivos, negativos y problemáticos de la IA, haciendo especial hincapié en los «positivos».
Nuestro próximo objetivo será comprender los diferentes mecanismos de protección y sus limitaciones, analizándolos desde el marco de los ocho pilares.
Terminaremos con un cuestionario de curiosidades en el que habrá que distinguir entre los aspectos positivos, negativos y francamente desagradables de la IA.
Conclusión clave: Tras las evaluaciones de riesgos de la IA, es necesario aplicar estrategias de mitigación y medidas de control.
La gobernanza de la IA establece las normas precisas, los mecanismos de supervisión y los controles internos necesarios para garantizar que los sistemas cumplan con la legislación y sean seguros desde el punto de vista social.
Partiendo de la ley de Moore, analizaremos si el ritmo de crecimiento de la IA sigue reflejando dicha ley y si es necesario establecer medidas de protección normativas y éticas. Haremos un breve repaso de la normativa vigente en materia de IA en todo el mundo.
Un marco de gobernanza de alto rendimiento se basa en cinco áreas clave. Los participantes realizarán un juego de simulación en una «sala de crisis de IA» y trabajarán en un comité ejecutivo de cumplimiento normativo para poner en práctica las cinco áreas clave de la gobernanza.
El consejo de administración analizará tres aplicaciones de inteligencia artificial de alto riesgo, evaluando los niveles de riesgo y el cumplimiento de los marcos normativos en todo el mundo.
Conclusión clave: La gobernanza de la IA es un aspecto fundamental de su implantación y requiere una evaluación continua de los riesgos, así como marcos de cumplimiento normativo.
La equidad en la IA exige un trato equitativo de las personas y los grupos, protegiendo a las poblaciones marginadas o históricamente desfavorecidas frente a la discriminación digital.
La equidad en la IA generativa requiere un trato no invasivo hacia los usuarios humanos para evitar el deterioro cognitivo, la resignación y la dependencia excesiva de las aplicaciones de IA.
Analizaremos los distintos puntos de entrada del sesgo en el desarrollo de la IA y el impacto del uso de la IA en la psique humana.
A través de dos simulaciones en directo, los participantes abordarán los sesgos de género en una empresa de financiación de préstamos y diseñarán un marco que combine la intervención humana y la inteligencia artificial para preservar la cognición y la autonomía humanas.
Conclusión clave: La equidad en los sistemas de IA reduce los sesgos, y los equipos diversos son un elemento fundamental para mitigar dichos sesgos. Para preservar la capacidad de decisión humana, se deben adoptar marcos de trabajo que integren a las personas y la IA.
Para garantizar que la IA se implemente y utilice de forma segura, sin riesgos sistémicos involuntarios ni fallos en las fases posteriores, hay cuatro principios de seguridad que deben aplicarse.
Mediante concursos de preguntas y respuestas, llevaremos a cabo una sesión interactiva para comprender el funcionamiento de una decisión automatizada compleja y cómo una organización puede aplicar los principios de transparencia y explicabilidad para desglosar el proceso de toma de decisiones del sistema de IA.
El objetivo principal es comprender la opacidad de la IA generativa y de los sistemas de IA en general, y conocer las distintas formas de explicar los resultados de cada sistema al usuario.
A continuación, los participantes representarán diferentes situaciones en las que explicarán las distintas variables a las distintas partes interesadas en un lenguaje sencillo.
Conclusión clave: Todas las empresas que utilicen sistemas de IA deben rendir cuentas y contar con medidas de transparencia, lo que mejorará la seguridad de la IA.
Los costes cada vez mayores de la hiperescalabilidad, el consumo de agua y energía, y el impacto que los centros de datos de superordenadores están teniendo en las comunidades se están agravando.
Lo que más preocupa a la mayoría de la gente es cómo medir el consumo energético de la IA.
Los participantes aprenderán a evaluar el consumo de agua y energía al utilizar la IA generativa.
Habrá una sesión interactiva con un «Dragon’s Den» de IA ecológica, en la que se presentarán nuevas soluciones empresariales de IA respetuosas con el medio ambiente ante un grupo de inversores comprometidos con la sostenibilidad.
Concluiremos con una visión general de las distintas herramientas existentes que miden el consumo energético de los modelos de IA.
Conclusión clave: Es posible reducir el consumo de agua y energía derivado de los centros de datos y del uso de la inteligencia artificial.
Concluiremos el curso haciendo un repaso de todos los aspectos relacionados con la IA responsable y la gobernanza de la IA.
Nos dividiremos en grupos y elaboraremos un proceso de gobernanza de la IA para vuestras organizaciones, así como un marco de IA responsable para vuestros equipos técnicos.
También se desarrollará un marco de colaboración entre personas e inteligencia artificial en el que sus equipos ocupen un lugar central en todos los procesos empresariales, prestando especial atención a las distintas partes interesadas, desde sus clientes hasta los equipos internos, pasando por los responsables políticos y las comunidades.
Los participantes saldrán de la formación con una base sólida sobre la gobernanza de la IA y una plantilla para una IA responsable y, lo que es más importante, con un conocimiento profundo de cómo reducir los riesgos de la IA tanto en la organización como para los usuarios.
Trae tus preguntas y tus retos de la vida real a una sesión informal de una hora, en la que Toju responderá a tus preguntas y abordará los retos de la vida real que se hayan ido acumulando a lo largo de las siete primeras sesiones.
Se recomienda a los participantes que traigan:
Explora otros talleres de nuestro catálogo que pueden ser de tu interés:
Tu equipo ya cuenta con agentes de IA. Este curso enseña a los líderes a estructurar,
¿Y si la IA no te hiciera menos creativo, sino que te hiciera...
