Además, hemos contado con la experiencia de Telefónica, empresa pionera en la adopción de la inteligencia artificial en general y de la inteligencia artificial ética en particular. Una fase en la que adaptaremos GuiA a 10 sectores empresariales con la ayuda de más de 50 empresas.
Introducción
Por un lado, se refiere a la mejora del rendimiento y eficiencia de los procesos industriales mediante. Esto, junto con la actual incertidumbre regulatoria, son los dos principales obstáculos para la adopción masiva de la IA.
Impacto y riesgos de la IA
Si bien la aplicación de la ética a la inteligencia artificial no es una ciencia, esto no significa que no pueda sistematizarse y controlarse. En el marco de la inteligencia artificial, las reglas y la ética se complementan de forma natural.
Su relación con la inteligencia artificial ética y normativa
Son competencias de esta Secretaría de Estado las relacionadas con la política de fomento de la digitalización de la sociedad y la economía a través de la promoción y regulación de los servicios digitales y de la economía y la sociedad digitales, el diálogo con los sectores profesionales, industriales y académicos, así como promover la digitalización del sector público. En los 2 años que han transcurrido desde su creación hoy (febrero 2022), hemos asistido a un importante número de importantes iniciativas por parte de SEDIA, posiblemente nunca antes vistas en España, encaminadas a modernizar nuestra economía y sociedad.
Estrategia Nacional de Inteligencia Artificial (ENIA)
La Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA) del Gobierno de España es un órgano superior del Ministerio de Asuntos Económicos y Transformación Digital.
Carta de derechos digitales
Para tener un contexto detallado del estado de la IA ética y normativa a su alrededor, no reescribir enfoques y tener una base estructurada y "científica" sobre la cual podamos profundizar de manera fundamentada (objetivo de este informe GuIA), identificamos en julio de 2021 y analizamos 150 iniciativas a nivel mundial que se habían publicado en el mundo hasta esa fecha. El ejercicio de selección tuvo como objetivo contar con la mayor diversidad posible de enfoques éticos y regulatorios entre los 150 identificados inicialmente.
Organismos Gubernamentales
- Documentos analizados de esta categoría
- Contexto
- Enfoque troncal
- Principios destacados
- Políticas nacionales y cooperación internacional para una IA fiable
Es esencial que los datos de IA se recopilen, utilicen, compartan, archiven y eliminen de manera coherente con los valores y principios. La posición de los gobiernos es privilegiada para coordinar los esfuerzos interdisciplinarios de la multitud de actores involucrados y promover el desarrollo de la IA.
Asociaciones independientes
Documentos de esta categoría
Reducir la información asimétrica a medida que los sistemas de IA procesan grandes cantidades de información de personas que a su vez tienen poco conocimiento de estos sistemas. Los empleados deberían tener derecho a exigir transparencia en las decisiones y resultados de los sistemas de inteligencia artificial, así como en los algoritmos subyacentes.
Entidades privadas
Académicos y profesionales independientes
Riesgos
Políticas nacionales y cooperación internacional necesarias para la consecución de una IA confiable
Es por tanto necesario profundizar en los enfoques que permitan a las empresas asimilar de forma pragmática la inteligencia artificial ética y regulatoria en su día a día. Transformar nuestro mundo: la Agenda 2030 para el Desarrollo Sostenible. system/files/official-document/ares70d1_es.pdf. y otros "El papel de la inteligencia artificial en el logro de los Objetivos de Desarrollo Sostenible".
Introducción
Framework GuIA
Toda la sociedad, con especial énfasis en los grupos minoritarios y el medio ambiente, deberían ser partes interesadas durante todo el ciclo de vida de la IA. En la medida en que los sistemas de IA respeten la sostenibilidad y contribuyan a su promoción, se protegerá el futuro de las generaciones futuras.
Privacidad y gobierno de datos
Definición descriptiva del principio
El uso de la IA casi por defecto desencadena la aplicación del régimen de protección de datos. El principio esencial de cumplimiento responsable y proactivo y la llamada ética del diseño surgen directamente de la ley de protección de datos.
Desarrollo normativo
En relación con la protección de datos aplicable al registro de nombres de pasajeros, tenemos la Directiva (UE) 2016/681 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, sobre el uso de datos procedentes del registro de nombres de pasajeros (PNR) respecto prevención, detección, investigación y enjuiciamiento de actos de terrorismo y delitos graves. El núcleo central de esta directiva es regular la transferencia de datos PNR y el procesamiento de estos datos por parte de las autoridades competentes.
Conclusiones y perspectivas de futuro
Requiere su aplicación en un sentido amplio, sin excluir ningún tipo de sistema informático e incluye todos los datos independientemente de su ubicación, salvo que así lo aconsejen por motivos de seguridad. Para garantizar la aplicación efectiva del principio de libre circulación de datos no personales, los Estados miembros tienen la obligación de comunicar inmediatamente a la Comisión cualquier proyecto de decisión que introduzca un nuevo requisito de localización de datos o modifique un requisito existente.
Seguridad y protección. Fiabilidad, robustez y precisión
Una de las principales características de este principio es la seguridad de las redes y los sistemas de información, algo fundamental en las soluciones de IA, ya que los sistemas (sobre todo programas o software informáticos) son la parte esencial de la solución. Informe sobre las consecuencias jurídicas civiles y de seguridad de la inteligencia artificial, el Internet de las cosas y la robótica.
Responsabilidad y rendición de cuentas
Asimismo, y como se ha señalado, las futuras regulaciones de IA se basan en el modelo de ley de protección de datos. Es importante comprender el alcance de la responsabilidad de la empresa o del individuo respecto de la IA.
Transparencia y explicabilidad
El principio de transparencia es uno de los principios para los que hoy encontramos respuesta en la normativa vigente aplicable a las soluciones de IA. Debido al potencial uso que se puede dar a las soluciones de IA en el ámbito de la justicia y el impacto que puede tener en la libertad de los interesados, el uso de esta tecnología y la forma en que se procesan los datos deben ser transparentes, lo que incide. EL
El principio de justicia
La proyección a los sistemas IA de la normativa antidiscriminatoria y de protección de datos
Si un conjunto de datos no es representativo, el reflejo de la realidad y del mundo no es fiel (Ética de la IA). Todo esto debe ser relevante para todo el ciclo de la solución de IA (desde su idea hasta su retirada del mercado) y para su implementación se deben tener en cuenta todos los agentes involucrados (principios éticos y normas legales (no) existentes para IA (1)).
Foco en el ser humano: control y vigilancia humana
Además, este mismo estándar exige a las organizaciones que utilicen sistemas de inteligencia artificial identificar al personal que revisa las decisiones en sectores específicos. El principio de control y supervisión humanos en los sistemas de inteligencia artificial todavía refleja la desconfianza interna que los humanos tienen hacia los sistemas de IA.
Promoción de los valores y de los derechos humanos
El principio de derechos humanos en relación con la IA implica la sumisión a todas las obligaciones de la legislación supranacional de derechos humanos, así como su promoción y seguimiento. Desde mediados del siglo XX, el derecho internacional y supranacional de derechos humanos ha ido evolucionando.
Sostenibilidad ambiental
En respuesta, este proyecto tiene como objetivo desarrollar una estrategia global de adopción de IA para la acción climática y la conservación de la biodiversidad. La sociedad en su conjunto, prestando especial atención a los grupos minoritarios y al medio ambiente, debería ser una parte interesada durante todo el ciclo de vida de la solución de IA.
Resumen
Privacidad y gobierno de datos
De manera similar, uno de los principales proyectos de la Asociación Global sobre IA (1) es crear una estrategia de IA ambientalmente responsable. Se debe fomentar la sostenibilidad y la responsabilidad ambiental y promover la investigación para promover el desarrollo sostenible como base necesaria para una inteligencia artificial ética.
Normativa obligatoria
Seguridad y protección. Fiabilidad, robustez y precisión
Directiva 2013/40/UE del Parlamento Europeo y del Consejo, de 12 de agosto de 2013, sobre ataques contra sistemas de información y por la que se sustituye la Decisión Marco 2005/222/JAI del Consejo. Directiva 2002/58/CE del Parlamento Europeo y del Consejo, de 12 de julio de 2002, relativa al tratamiento de datos personales y a la protección de la privacidad en el sector de las comunicaciones electrónicas.
Recomendaciones
Responsabilidad y rendición de cuentas
Resolución con recomendaciones a la Comisión sobre el régimen de responsabilidad civil en relación con IA INL). Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Artificial Intelligence Act) y se modifican determinados actos legislativos de la Unión.
Transparencia y explicabilidad
Directiva (UE) 85/374/CEE del Consejo, de 25 de julio de 1985, sobre la aproximación de las disposiciones legales y administrativas de los Estados miembros relativas a la responsabilidad por daños causados por productos defectuosos. Resolución del Parlamento Europeo, de 14 de marzo de 2017, sobre las implicaciones de los macrodatos para los derechos fundamentales: privacidad, protección de datos, no discriminación, seguridad y aplicación de la ley.
El principio de justicia
6.- Foco en el ser humano: control y vigilancia humana
7.- Promoción de los valores y de los derechos humanos
8.- Sostenibilidad ambiental
En el caso de Google, Microsoft e IBM, tiene una estructura global homogénea entre ellas para facilitar la lectura y comprensión de los planteamientos de las tres empresas. En el caso de Telefónica, su estructura es diferente, ya que se presenta la historia del éxito de la mencionada empresa al adoptar un camino ético y responsable.
El enfoque de Google
El enfoque de Google para gestionar los principios éticos
Enfoque de Google respecto de la IA ética
Propósitos globales de Google respecto de la IA ética (1)
Google integra sus principios de privacidad en el desarrollo y uso de sus soluciones de inteligencia artificial. Con una estrategia de IA responsable, puede ganarse y mantener la confianza de sus clientes.
Al Deal Review
Coordinación de nuestro desarrollo de productos Cuando emprendemos el desarrollo de nuevos productos y servicios que incorporan tecnologías avanzadas, así como productos y servicios similares que ya estaban ampliamente disponibles cuando comenzamos este proceso, llevamos a cabo análisis éticos rigurosos y profundos, evaluando la riesgos y oportunidades para cada uno el principio y la implementación de revisiones sólidas en vivo que pueden involucrar conversaciones complejas pero a menudo inspiradoras. También revisamos nuestros contratos comerciales en una etapa temprana, mucho antes de que se firmen, lo que incluirá la creación de IA personalizada para el cliente.
Cómo Google pone en práctica sus Principios de IA
Al realizar revisiones exhaustivas de nuestros productos ampliamente disponibles y crear planes de alineación para cada uno de ellos, pudimos centrar nuestras revisiones de contratos en casos de uso únicos y personalizados de cómo se podrían utilizar nuestros productos ampliamente disponibles. Si bien no somos transparentes en cada decisión porque iría en contra de nuestros compromisos de privacidad, no creo que este nivel de transparencia sea necesario.
Enfoques respecto de la gobernanza
Marcos de responsabilidad
Buenas prácticas generales
Utilizar un enfoque de diseño centrado en el ser humano
Identificar múltiples métricas para evaluar la capacitación y el seguimiento
Cuando sea posible, examinar directamente los datos sin procesar
Comprender las limitaciones de nuestro conjunto de datos y modelo
Probar, probar y probar
Continuar monitoreando y actualizando el sistema después de la implementación
Principios éticos sobre los que Google se focaliza
Equidad
Privacidad
Interpretabilidad
Seguridad
Principio de Equidad
Qué es la Equidad para Google
Un ejemplo de ello son las prácticas realizadas, como la evaluación de conjuntos de datos de entrenamiento para evitar posibles fuentes de sesgo, la creación de modelos de entrenamiento para eliminar o corregir dichos sesgos problemáticos, o el testeo continuo de los sistemas finales para evitar resultados de búsqueda injustos. . . De hecho, los propios modelos de aprendizaje automático también se pueden utilizar para identificar algunos de los prejuicios y barreras humanas en términos de inclusión que se han desarrollado y perpetuado consciente e inconscientemente a lo largo de la historia.
Prácticas recomendadas
Actualmente, lograr una inteligencia artificial justa y completa es una tarea de investigación activa. Por este motivo, Google se compromete a avanzar en todas estas áreas y a crear herramientas, conjuntos de datos y otros recursos para la comunidad.
Diseñar el modelo utilizando objetivos concretos de equidad e inclusión
Por eso la igualdad en la IA presenta tanto una oportunidad como un desafío.
Utilizar conjuntos de datos representativos para entrenar y probar el modelo
Verificar el sistema en busca de sesgos injustos
Analizar el desempeño
Investigación sobre la equidad con casos de uso
Medición de sesgos
En este artículo, Google proporciona un conjunto de nuevas métricas para evaluar las preocupaciones sobre la equidad algorítmica en los sistemas de recomendación. En particular, se muestra cómo la medición de la equidad basada en comparaciones de experimentos aleatorios, revisados por pares y aprobados por la comunidad de IA, proporciona una herramienta conveniente para razonar sobre la equidad en las clasificaciones de sistemas de recomendación (4). 1) https://ai.googleblog.com/2020/10/measuring-gendered-correlations-in-pre.htm (2) https://ai.googleblog.com/2016/10/equality-of-opportunity- en la máquina.html.
Creación de conjuntos de datos y modelos de ML justos
Este estudio analiza cómo se puede entrenar un modelo de ML para mejorar la equidad cuando, por razones de privacidad y/o regulatorias, ni siquiera se conocen las características de los propios miembros sobre quienes se evaluarán las características protegidas (característica que tiene una población en grupos cuyos los resultados deben ser iguales; incluyen raza, género, nivel social y religión) (1). Una investigación sobre la aplicación de la equidad en la investigación de ML a un sistema de clasificación de reglas de producción (un programa informático utilizado para proporcionar algún tipo de IA, que consiste principalmente en un conjunto de reglas de comportamiento, pero que también contiene el mecanismo necesario para seguir esas reglas como sistema). responde a los estados del mundo) y nuevos conocimientos sobre cómo medir y abordar las cuestiones de equidad de los algoritmos de los sistemas de IA (3).
Técnicas de mitigación
Las cuestiones de geodiversidad se evalúan en los diversos conjuntos de datos disponibles en el mundo desarrollado, y el sesgo de representación existente en Centroamérica y Europa se muestra en dos grandes conjuntos de datos de imágenes disponibles públicamente (2).
Comprensión de los usuarios y la sociedad
ML justo en la práctica
Una competencia para que la comunidad global de investigación y desarrollo entrene modelos y cree sistemas de reconocimiento de imágenes que puedan funcionar igualmente bien en un conjunto de imágenes de prueba extraídas de diferentes distribuciones geográficas en las que no han sido entrenados (1). Una base de datos abierta para ayudar a ampliar la diversidad de culturas y personas representadas en los datos de formación de imágenes (2).
Recursos y tecnologías para gestionar la equidad
Principio de Interpretabilidad
Qué es la Interpretabilidad para Google
Evaluar las opciones para lograr interpretabilidad
Considerar la interpretablidad como la parte central de la UX
Diseñar el modelo para que sea interpretable
Elegir métricas que reflejen el objetivo y la tarea finales
Entender el modelo entrenado
Comunicar explicaciones a los usuarios del modelo
Es importante aprender de las mejores prácticas de ingeniería de calidad y software para garantizar que el modelo de IA funcione como se espera y sea confiable. Aplique el principio de ingeniería de calidad poka-yoke descrito en la sección "Prueba, prueba, prueba" de las buenas prácticas generales de Google.
Investigación sobre la interpretabilidad con casos de uso
Los mapas de prominencia son un método de interpretación posterior al entrenamiento para explicar la "evidencia" de las predicciones. Algunos mapas de Saliency son visualmente indistinguibles antes y después de aleatorizar los pesos de la red (es decir, producen predicciones no confiables) (3).
Recursos y tecnologías para gestionar la interpretabilidad
El método llamado TracIn mide el impacto de un ejemplo de entrenamiento en una predicción realizada por el modelo. Sin embargo, este trabajo muestra que esto tiene poco que ver con las predicciones del modelo.
Principio de Privacidad
Qué es la Privacidad para Google
Recopilar y manejar datos de una manera responsable
Aprovechar el procesamiento en dispositivo local cuando sea posible
Proteger adecuadamente la privacidad de los modelos de ML
Investigación sobre la privacidad con casos de uso
Prochlo: Consiste en un proyecto de monitorización de datos cuya arquitectura está basada en ESA (Encode, Shuffle, Analyse), lo que asegura una mayor usabilidad de los datos y su anonimato. Se basa en el concepto de respuesta aleatoria y permite conocer estadísticas sobre el comportamiento del software de los usuarios garantizando al mismo tiempo la privacidad del cliente (3). 3) https://ai.googleblog.com/2014/10/learning-statistics-with-privacy-aided.html.
Recursos y tecnologías para gestionar la Privacidad
La operación se divide en tres pasos principales: el primero es la codificación de datos; Estos datos del codificador luego se mezclan; Finalmente, los datos cifrados y codificados son analizados por un motor de análisis dedicado para mejorar aún más la seguridad (2). RAPPOR (Respuesta Ordinal Agregada Aleatoria que Preserva la Privacidad): Es un proyecto desarrollado por Google para proteger la seguridad y privacidad de los usuarios.
Principio de Seguridad
Qué es la Seguridad para Google
Identificar las posibles amenazas al sistema
Desarrollar un sistema para combatir las amenazas
Seguir aprendiendo a mantenerse a la vanguardia
CleverHans: es una biblioteca de Python para evaluar la vulnerabilidad de los sistemas ML/DL a ejemplos negativos. Sin embargo, este artículo demuestra cómo al introducir el aprendizaje contradictorio en este tipo de modelo, se mejora significativamente la solidez a los cambios en los datos de entrada (2).
Recursos y tecnologías para gestionar la Seguridad
Competencia de Seguridad de Aprendizaje Automático: Es una competencia creada en 2017 y organizada en Kaggle, una plataforma de competencia de ciencia de datos; que tiene como objetivo analizar cómo se pueden utilizar diferentes técnicas de ML y DL para mejorar los sistemas de defensa ante posibles ataques futuros (3). Sin embargo, este artículo analiza nuevos métodos que pueden ser eficaces para proteger nuestro sistema contra diversos ataques que utilizan modelos basados en el aprendizaje adversario.
Los recursos de Google para gestionar los principios
1 Definir el problema
2 Construir y preparar los datos
3 Crear y entrenar un modelo
4 Evaluar el modelo
5 Implementa y supervisa
Recursos para definir el problema People + AI Research (PAIR) Guidebook (1)
Recursos para construir y preparar los datos Know your data (1)
La validación de datos de TensorFlow identifica anomalías en el entrenamiento y la entrega de datos, y puede crear automáticamente un esquema examinando los datos. La validación de datos de TensorFlow proporciona herramientas para visualizar la distribución de los valores de las características.
Recursos para crear y entrenar un modelo TF Model Remediation (1)
Esto se logra asegurando que la pendiente de la función sea mayor en relación con la característica dominante. Regularizador de Hesse: penaliza la primera derivada de la capa de calibración PWL para hacer la función más lineal.
Recursos para evaluar un modelo Fairness Indicators (1)
Es una herramienta destinada a ayudar a los usuarios que están construyendo un modelo de procesamiento del lenguaje natural o PNL. Es un conjunto de herramientas y bibliotecas que tienen como objetivo ayudar a interpretar y comprender los resultados de un modelo.
Recursos para implementar y supervisar un modelo Model Card Toolkit -MCT- (1)
Por lo tanto, es esencial cuantificar el rendimiento de su aplicación de aprendizaje automático para asegurarse de que está utilizando la versión más optimizada del modelo. Para los periodistas y analistas de la industria, pueden proporcionar información que facilite la explicación de tecnologías complejas a una audiencia general.
El enfoque de Microsoft
El enfoque de Microsoft para gestionar los principios éticos
Propósitos globales de Microsoft respecto de la IA ética
Principios éticos sobre los que Microsoft se focaliza
Gobierno de Microsoft para una IA ética
En tal caso, el proyecto es revisado inicialmente por el responsable de IA Champ, que activa los mecanismos internos de Microsoft para la gestión interna de proyectos y envía la solicitud al equipo de ORA (equipo de casos de uso receptivo). La publicación de una guía escrita por parte de Microsoft es el paso final en el proceso de revisión de uso sensible.
Recomendaciones metodológicas en todo el ciclo de vida
Fase de Evaluación
Fase de Desarrollo
Esta actividad evalúa las condiciones de implementación, tiene en cuenta los datos que ya se pueden utilizar en un escenario de producción y define las pruebas holísticas de todas las funcionalidades. Es en esta actividad donde se pueden identificar nuevas brechas potenciales respecto del uso ético y responsable de la solución inteligente.
Fase de Despliegue
Durante esta actividad se realizan los planes de auditoría y pruebas teniendo en cuenta los principios éticos definidos y finalmente se escalan las potenciales brechas encontradas. En esta actividad se evalúa el impacto que tendrá el desarrollo del sistema inteligente en las personas y se identifican los desafíos que se presentan, el daño potencial que puede causar y casos de uso sensibles para su posterior evaluación por parte de los comités.
Toolkit de Microsoft para la gestión de los principios éticos
Confiabilidad y Seguridad
Privacidad y Seguridad
Inclusión
Transparencia
Responsabilidad
Respecto a esto último, Microsoft establece objetivos globales que denomina "Principios del aprendizaje automático responsable".
Qué es la equidad para Microsoft
Necesidades para resolverlo
Por lo tanto, para comprender el papel de las listas de verificación en la ética de la IA, Microsoft llevó a cabo un proceso iterativo de codiseño con cuarenta y ocho profesionales, centrándose en la equidad. También se analizan aspectos de la cultura organizacional que pueden influir en la eficacia de dichas listas de verificación y se sugieren futuras direcciones de investigación.
Cinco formas de identificar el sesgo
FairLearn, tecnología para la valuación y mitigación de parcialidad
Métricas para detectar la parcialidad
Algoritmos para mitigar la parcialidad
Pero si las listas de verificación no se basan en las necesidades de los profesionales, pueden ser mal utilizadas o ignoradas. El proyecto de investigación AI Fairness Checklist (1) explora cómo se pueden diseñar listas de verificación para respaldar el desarrollo de productos y servicios de IA más justos.
Principio de Confiabilidad y seguridad
Qué es la Confiabilidad y la seguridad para Microsoft
Desventajas del conjunto de datos (1): los modelos predictivos basados en IA utilizados en el mundo real pueden asignar etiquetas falsas a instancias con un intervalo de confianza alto. Problemas de especificación: errores en especificaciones de entrenamiento, pruebas, etc. pueden causar errores en los sistemas de IA.
Recomendaciones en el ámbito de Confiabilidad y seguridad
Tecnologías para aplicar la Confiabilidad y seguridad
Los sistemas de IA se utilizan cada vez más en todo tipo de áreas críticas. Es independiente de los datos: funciona en modelos de IA que utilizan texto, imágenes o entradas genéricas.
Principio de Privacidad y seguridad
Qué es la privacidad y la seguridad para Microsoft
Recomendaciones en el ámbito de privacidad y seguridad
La sección MITRE ATLAS describe un documento que contiene las mejores prácticas recomendadas por Microsoft que refuerzan las prácticas de seguridad de software existentes en el contexto de la seguridad del sistema de IA. Permite a las organizaciones realizar evaluaciones de riesgos: el marco desarrollado por Microsoft brinda la capacidad de recopilar información sobre el estado actual de los sistemas de inteligencia artificial en una organización, realizar un análisis de brechas y rastrear el progreso de la situación de seguridad.
Tecnologías para aplicar la privacidad y seguridad
Proporciona una visión integral de la seguridad de un sistema de inteligencia artificial: se examina cada elemento del ciclo de vida de un sistema de inteligencia artificial en un entorno de producción: comenzando con la recopilación de datos, continuando con el procesamiento de datos y terminando con el desarrollo del modelo. Describe las amenazas de ML y recomendaciones para su eliminación: Para ayudar a los ingenieros y profesionales de la seguridad, Microsoft ha enumerado las amenazas potenciales que pueden aparecer en cada uno de los pasos que componen el proceso de desarrollo de sistemas de seguridad.
Smart Noise, para la Privacidad Diferencial
También se consideran las cadenas de suministro de IA, que son los algoritmos y procesos que conforman un sistema de IA; así como controles y políticas relacionadas con copias de seguridad, recuperación de datos y planificación de acciones del sistema.
Private Dataset
Privacy Module
Original Dataset Synthetize, add noise
Differentially Private Synthetic Dataset
Es una modificación aplicada a las GAN para preservar la privacidad diferencial de los datos sintéticos, mejorando las DPGAN especialmente para tareas de clasificación. En el artículo, puede obtener información sobre los riesgos subestimados de las prácticas comunes de anonimización de datos, la idea detrás de la privacidad diferencial y cómo utilizar SmartNoise en la práctica.
Presidio, para la protección y anonimización del dato
SEAL Homomorphic Encryption para cálculos sobre datos cifrados en cloud
La protección de datos se basa en políticas de control de acceso implementadas por la nube y de confianza por parte del cliente. Con Microsoft SEAL, los operadores de la nube nunca tendrán acceso no cifrado a los datos que almacenan y calculan.
Principio de Inclusión
Como Microsoft entiende la Inclusión en la IA
Construir equipos de IA inclusivos: por mucho que queramos creer en la neutralidad de la IA, sigue siendo, hasta cierto punto, un reflejo del equipo que estuvo a cargo de su diseño. Los equipos diversos encuentran más fácilmente los posibles sesgos, por lo que se puede entrenar la IA para que sea lo más inclusiva posible.
Una solución para uno, extensible a muchos
Cultivar la diversidad con privacidad y consentimiento: una de las partes más importantes del crecimiento de una IA es que su conjunto de datos sea diverso, esté adecuadamente etiquetado y se utilice de una manera que represente a todos los clientes. El procesamiento de estos datos también debe cumplir con el RGPD (1); La privacidad por diseño es uno de los pilares de Microsoft, y no actúa de forma reactiva al respecto, sino de forma proactiva.
Reconocer la exclusión
Los clientes deben sentir que tienen la capacidad de cambiar de rumbo en cualquier momento para lograr sus nuevos objetivos, sin sentirse limitados por la IA. Estos equipos deben tener una mentalidad abierta y asumir la responsabilidad de sus errores accidentales, ya que sus acciones resonarán en los medios y en la opinión de la sociedad, teniendo siempre en cuenta el sesgo inherente a sus diseños.
Aprender de la diversidad
Si hay algún sesgo en este conjunto de datos, esto sólo lo exacerbará.
Guidelines para un diseño centrado en las personas
Para la interacción humano-IA (Human-AI Experiences -HAX-)
Los patrones de diseño HAX que se muestran a continuación pueden resultar útiles en este paso. Los patrones de diseño HAX le permiten describir soluciones flexibles a problemas recurrentes entre humanos y IA.
Principio de Transparencia
Qué es la Transparencia para Microsoft
Tecnologías para aplicar la transparencia
InterpetML para explicar el funcionamiento de los modelos
DiCE para gestionar la contrafactualidad
Herramienta de gestión. Datasheets for Datasets (1)
Principio de Responsabilidad
Qué es la responsabilidad para Microsoft
La involucración del ser humano en las soluciones inteligentes
En caso de que se determine que es posible que el cliente no pueda adoptar o mantener la tecnología de manera ética y responsable, este asunto debe someterse a revisión. El cliente es responsable de cumplir con todas las leyes aplicables al implementar y utilizar las soluciones de Meaningful Human Control.
Resumen en un vistazo del Toolkit de Microsoft para la gestión de los principios éticos
Asegurar que la tecnología continúe operando bajo los mismos lineamientos éticos con los que fue desarrollada.
El enfoque de IBM
El enfoque de IBM para gestionar los principios éticos
Propósitos globales de IBM respecto de la IA ética
Principios éticos sobre los que IBM se focaliza
Organización y recursos internos de IBM
Toolkit de IBM para la gestión de los principios éticos
Explicabilidad
Equidad y Explicabilidad
Robustez
Qué es la Equidad para IBM, y su relación con el sesgo
Se trata de un producto licenciado basado en las bibliotecas IBM AI Fairness 360 al que, entre otras capacidades, se le ha añadido una interfaz visual que permite su uso por perfiles no necesariamente técnicos. Se trata de un producto licenciado basado en las bibliotecas IBM AI Fairness 360 al que, entre otras funcionalidades, se le ha añadido una interfaz visual que permite su uso por perfiles no necesariamente técnicos.
Métricas que permiten identificar que existe sesgo
Si el modelo se preocupa por la justicia individual, se deben utilizar métricas de clase. Si la aplicación requiere métricas sobre los datos de entrenamiento, se deben usar las métricas de la clase DatasetMetric y su conjunto de subclases (como la clase BinaryLabelDatasetMetric).
Algoritmos proporcionados para mitigar el sesgo
Es una técnica que utiliza un clasificador para aumentar la precisión de la predicción al tiempo que reduce la capacidad del adversario para determinar el atributo protegido a partir de la predicción. Debiaser es una técnica en progreso que agrega un término regulatorio consciente de los sesgos a un objetivo de aprendizaje.
Principio de Explicabilidad
Qué es la Explicabilidad para IBM
Una presentación que le permite explorar la interpretabilidad del modelo de aprobación de crédito desde la perspectiva de diferentes usuarios (el científico de datos responsable de implementar el modelo, el representante del banco que gestiona la aprobación de crédito y el usuario final que solicita el crédito). ). Además del principio de explicabilidad explicado aquí, proporciona funcionalidad para gestionar el principio ético de equidad (imparcialidad) explicado anteriormente en este documento, detectando y mitigando así posibles sesgos.
Qué algoritmo de explicabilidad elegir en función de qué se quiere explicar
Un modelo de caja negra (generalmente una red neuronal), interpretable solo después del hecho (post-hoc) al observar las decisiones que tomó. La explicación de este tipo de modelos se realiza mediante la construcción de un modelo adicional que se encarga de realizar la explicación del modelo de caja negra.
Cuál es el algoritmo de explicabilidad más adecuando para cada usuario
Cuál es el algoritmo de explicabilidad más adecuando para cada fase del ciclo de vida del modelo
Métricas para medir la calidad de la explicabilidad
Muestra
Explique las decisiones individuales a nivel de transacción tomadas por el modelo en tiempo de ejecución, incluidos detalles sobre atributos importantes y sus valores para ayudar con situaciones de cumplimiento y servicio al cliente. Analice transacciones individuales hipotéticamente para comprender cómo cambiará el comportamiento del modelo en diferentes situaciones.
IBM Causal Inference 360
Extract data matrix
Define causal
Choose &
Predict outcome &
Train and Evaluate D1 Posivility
Principio de Robustez
Qué es la robustez para IBM
IBM Adversarial Robustness Toolbox (ART) es una biblioteca de código abierto desarrollada en Python para la solidez del aprendizaje automático. ART admite los marcos de aprendizaje automático más utilizados (TensorFlow, Keras, PyTorch, MXNet, scikit-learn, XGBoost, LightGBM, CatBoost, GPy, etc.), todo tipo de datos (imágenes, tablas, audio, vídeo, etc.) y aprendizaje automático sobre clasificación de tareas, detección de objetos, generación, certificación, etc.
Qué es una muestra adversaria
Cómo gestionar ataques y defensas según el momento en el que se ataca o prueba el modelo
Aparece en inferencia sin que el atacante tenga acceso directo a los datos, interactuando con el modelo únicamente a través de su interfaz. Busca conocer los datos que utiliza el modelo en su evaluación para poder realizar predicciones.
Qué es la Transparencia para IBM
IBM Uncertainty Quantification 360, opensource para gestionar el principio ético de Transparencia
Cómo estimar la incertidumbre en las predicciones de un modelo de ML
En el primer caso, se pueden utilizar métodos intrínsecos para entrenar un modelo que proporcione estimaciones de incertidumbre. Sin embargo, si el modelo no se especifica correctamente, los BNN pueden producir estimaciones de incertidumbre de baja calidad.
Cómo evaluar la calidad de esas incertidumbres y, si es necesario, mejorarla
Para los modelos existentes que no pueden generar estimaciones de incertidumbre directamente, UQ360 proporciona metamodelos (MM) (1) que pueden obtener estas estimaciones a posteriori. El algoritmo IJ analizado anteriormente también se puede utilizar para generar UQ post-hoc aproximando el efecto de las perturbaciones de los datos de entrenamiento en las predicciones del modelo.
Cómo comunicar esas incertidumbres a las personas que hacen uso del modelo
Por ejemplo, es común mostrar una banda de incertidumbre en un gráfico de líneas para un conjunto de predicciones, como se muestra a continuación. Por ejemplo, el diagrama de abanico es un enfoque común para codificar diagramas de gradiente en un diagrama de líneas para un conjunto de predicciones.
