L’objectif de cette thèse est d’identifier les enjeux éthiques soulevés par l’intelligence artificielle, et plus particulièrement l’informatique affective, et de prendre le pouls des conditions d’acceptabilité de l’usage de tels systèmes dans la population. Pour examiner ces questions, cette étude a utilisé le contexte d’une évaluation d’une technologie d’intelligence artificielle affective réalisée par l’entreprise montréalaise EmoScienS.
Contexte et problématique
Face à l’engouement pour l’intelligence artificielle et au potentiel présenté par l’intelligence artificielle affective, nous souhaitions mieux comprendre les enjeux éthiques entourant la technologie et les conditions de son acceptation. C’est pourquoi nous avons concentré nos recherches principalement sur les thèmes de l’intelligence artificielle, de l’intelligence artificielle affective, des questions éthiques, ainsi que des conditions d’acceptation de la technologie.
Historique de l’intelligence artificielle
Définition
L’objectif de cette recherche est d’explorer les enjeux éthiques entourant la technologie et les solutions possibles pour assurer sa haute acceptabilité dans un cadre propice à une collaboration homme-machine en toute confiance. L'intelligence artificielle (IA) désigne l'ensemble des techniques qui permettent à une machine de simuler l'intelligence humaine, notamment pour apprendre, prédire, prendre des décisions et percevoir le monde qui l'entoure.
Historique
À cette époque, deux groupes différents abordaient les fondements de l’intelligence artificielle sous deux angles différents : la cybernétique, qui avait une approche dite connexionniste ou statistique, et l’intelligence artificielle, qui avait une approche symbolique (Cardon, Cointet, & Mazières, 2018). ). ). Plus la machine dispose de composants d’intelligence artificielle avancés, plus elle parvient à tromper l’examinateur.
Survol sommaire de la technologie
Applications de l’intelligence artificielle
Dans le domaine des soins de santé, l’IA contribue à optimiser les plans de traitement et apporte un soutien puissant à la préparation et à la réponse à une pandémie (OMS, 2021). Les forces de police et le secteur judiciaire bénéficient de l’évaluation des risques.
Enjeux de l’intelligence artificielle
- Transformation du marché du travail
- Fiabilité
- Sécurité et malveillance
- Biais et discrimination
- Responsabilité
- Transparence et explicabilité
- Consentement, respect de la vie privée et autonomie
Il faut toutefois veiller à ne pas tomber dans le piège d’une recherche impartiale de l’intelligence artificielle. Cependant, les auteurs ne sont pas tous d’accord sur cette question de transparence et d’explicabilité versus performance.
Encadrer le développement et le déploiement de l’intelligence artificielle
- Commission européenne
- Initiatives supranationales
- Initiatives nationales
- Initiatives universitaires
- Initiatives organisationnelles
- Force de loi
- Encadrement québécois et canadien
La Commission européenne est l’un des principaux acteurs mondiaux en matière de gestion de l’intelligence artificielle (Coeckelbergh, 2020). Cela entraîne un consensus social sur les valeurs acceptables dans le développement et le déploiement de l'intelligence artificielle (Coeckelbergh, 2020).
Intelligence artificielle affective
Enjeux éthiques en lien avec l’intelligence artificielle affective
Le fait que l’intelligence artificielle affective puisse détecter les émotions de la population pose un tout nouveau niveau d’intrusion dans la vie privée des citoyens. L’autonomie n’est pas en reste et constitue un enjeu à considérer en matière d’intelligence artificielle affective.
Conditions d’acceptabilité de l’IA
Dawar (2018) soulève également l’importance de la confiance quant à l’acceptabilité de l’intelligence artificielle. La confiance est donc un facteur important lié à l’acceptabilité de l’intelligence artificielle, sous différents angles.
Initiatives proposées dans la littérature pour augmenter la confiance à l’égard de la
Encadrement : équilibre entre l’autorégulation et la réglementation stricte
La facilité d'utilisation fait référence à la perception qu'a l'individu du degré de complexité de la nouvelle technologie (Bobilier-Chaumon et Dubois, 2009). Nous avons donc pu établir que la théorie sur l'acceptabilité de l'intelligence artificielle se concentre sur la prédisposition de l'utilisateur par rapport à cette technologie, les caractéristiques de la technologie et les mesures prises par les organisations qui développent ou déploient des systèmes d'IA. Grâce à nos nombreuses lectures, nous avons pu identifier certaines initiatives qui peuvent être mises en place pour accroître la confiance dans l’intelligence artificielle et ainsi potentiellement influencer positivement l’acceptabilité de la technologie au regard des questions éthiques.
Développement responsable
L’équipe de conception est également un facteur à prendre en compte pour influencer positivement l’adoption de l’IA. Les concepteurs dans le domaine de l’intelligence artificielle proviennent principalement du secteur privé et donc du monde des affaires (Mittelstadt, 2019). Afin d'analyser les conditions d'acceptation de l'intelligence artificielle et plus particulièrement de l'informatique affective, nous avons choisi de proposer notre modèle basé sur la théorie évoquée dans la littérature.
Déclaration de Montréal
Objectifs de la Déclaration de Montréal
Principes de la Déclaration de Montréal
La transparence est un facteur important et couvre très largement le développement et l’utilisation de l’intelligence artificielle et nécessite vigilance et proactivité de la part des concepteurs. Le développement et l'utilisation des AIS doivent être compatibles avec la préservation de la diversité sociale et culturelle et ne doivent pas limiter l'éventail des choix de vie et des expériences personnelles. Le développement et l'utilisation du SIA doivent se dérouler de manière à assurer une forte durabilité écologique de la planète.
Conditions d’acceptabilité
La réputation de l’organisation ou de la technologie est un aspect soulevé entre autres par Asan et al. Dawar (2018) ajoute l’élément de précision des prédictions lié aux préférences de l’utilisateur. Les avantages et l'utilité perçus font référence à l'adéquation de la technologie pour répondre aux besoins immédiats et futurs de l'utilisateur.
Stratégie de recherche
Justifications de la méthodologie
Les entreprises qui se lancent dans le domaine de l’intelligence artificielle doivent faire face à un environnement en évolution rapide. Voulant bénéficier d'une méthode de recherche nous permettant un examen large du domaine, nous avons opté pour la méthode qualitative à travers l'étude de cas exploratoire. Finalement, nous avons choisi de réaliser une seule étude de cas et non plusieurs cas.
Sélection du cas et collecte de données
- Le cas : La technologie de détection des émotions d’EmoScienS
- Collecte de données
- Outils de collecte de données
- Analyse des données
- Considérations éthiques
Nous avons utilisé une méthode qualitative pour cette recherche, en menant des entretiens semi-structurés avec des utilisateurs de la technologie étudiée. Nous avons également pris des notes sur nos réflexions tout au long de la collecte de données. Nous avons obtenu le consentement écrit de chaque participant à l'aide d'un document conçu à cet effet.
Perception des participants par rapport aux nouvelles technologies et à l’intelligence
Intérêt, aisance et style d’adoption par rapport aux nouvelles technologies
Sont-ils parmi les premiers à essayer la nouvelle technologie ou plutôt parmi ceux qui préfèrent observer la vague et rejoindre le groupe quand bon leur semble ? La grande majorité de nos participants ont exprimé qu'ils adoptent généralement une nouvelle technologie lorsqu'un bon nombre d'utilisateurs l'ont adoptée, qu'elle a été évaluée et testée et donc éprouvée. Par ailleurs, un des participants précise qu'il « attendra la version 2.0 pour être sûr que les bugs, les petits bugs ont été corrigés et qu'une certaine partie de la population l'a testée » (Participant J).
L’intelligence artificielle aux yeux des utilisateurs
- Perception et littératie
- Bénéfices perçus
- Enjeux
- Partage des données personnelles et consentement
- Sentiment par rapport aux conditions d’utilisation
Ils ont toutefois mentionné, entre autres, que « la pensée critique humaine ne doit pas être remplacée » (participant A). Elles étaient plus nuancées, c'est-à-dire la question « Êtes-vous à l'aise de partager vos informations personnelles ? Trois participants ont indiqué qu'ils apprécieraient que les informations soient présentées sous la forme d'un bref résumé, sous forme de puces, et qu'elles soient claires.
Rétroaction sur la technologie d’EmoScienS utilisée dans le cadre du projet de
Facilité d’utilisation
C’est ce que le participant a découvert. il était facile de cliquer sur l'onglet. J'ai mentionné qu'il n'y avait rien sur le tableau de bord. bouton) pour revenir à la page de travail. Cependant, le participant a trouvé que rouvrir l’appareil photo n’était pas intuitif et devait rejouer le tutoriel à chaque fois. De plus, malgré ses problèmes techniques, le participant M a déclaré qu'une fois résolus, tout était « parfait » et que « cela fonctionnait très bien.
Validité des résultats
Les participants ont formulé des recommandations qui pourraient potentiellement améliorer la fiabilité de la technologie. Une explication de la manière dont la technologie détermine l’émotion serait intéressante pour mieux comprendre les résultats (participant H). Un contexte optimal pour l'utilisation de la technologie a pu être identifié puisque certains participants estimaient que la technologie pourrait être mieux appliquée dans un environnement de travail de bureau ou lors d'une réunion avec un client que dans un environnement de travail sur écran uniquement (participants A et E) ; .
Bénéfices perçus quant à la technologie d’EmoScienS
Sensibilisation et outil pour mesurer l'effet d'actions ou d'annonces dans l'organisation, optimisation de la productivité. Prenez le pouls de vos employés, sensibilisez-les à l'organisation et vérifiez les problèmes s'il y en a. Au niveau individuel, les participants considèrent généralement que la conscience de leur situation émotionnelle est le plus grand bénéfice de l'utilisation d'EmoScienS pour les utilisateurs.
La technologie d’EmoScienS vue à travers les principes de la Déclaration de
- Principe de respect de l’autonomie
- Principe de protection de l’intimité et de la vie privée
- Principe de solidarité
- Principe de participation démocratique
- Principe d’équité
- Principe d’inclusion de la diversité
- Principe de prudence
- Principe de responsabilité
Cependant, certains participants ont fait valoir que le contexte du déploiement technologique peut nuire au bien-être. Ainsi, la question du contexte a un impact majeur sur le sentiment de protection de l’intimité et de la vie privée associé à la technologie. Le participant F a remis en question les performances de la technologie en ce qui concerne les minorités.
Réflexions quant au partage d’information dans le cadre de l’utilisation
Elle a également souligné que l'on peut développer des attentes à son égard : on peut s'attendre à ce qu'elle agisse lorsqu'elle constate l'insécurité émotionnelle de certains de ses employés. Les participants ayant indiqué qu'ils accepteraient de partager leurs informations avec leur patron y voient l'intérêt de le faire dans le but d'améliorer éventuellement leurs conditions de travail. Lorsque la possibilité d’anonymiser les résultats a été proposée aux participants, la moitié de ceux qui étaient initialement réticents au partage de données ont indiqué qu’ils l’autoriseraient dans ces conditions.
Critères d’acceptabilité
La moitié des participants ont déclaré que l'acceptabilité sociale de la technologie avait également été un facteur guidant leur décision. Les participants ont régulièrement souligné l’influence qu’une personne de confiance ou une utilisation généralisée de la technologie avait sur leur sentiment d’acceptation d’une nouvelle technologie. La grande majorité des participants ont souligné la simplicité d'utilisation de la technologie EmoScienS et la facilité de son intégration dans la vie quotidienne.
Perception par rapport aux initiatives et aux mesures mises en place pour encadrer
J De l'avis du participant, compte tenu de l'utilisation qu'il en fait, il estime qu'elle est bien encadrée. Il estime cependant qu'il s'agit d'un environnement très vaste qui doit être réglementé très sérieusement pour éviter les déraillements, les pertes de contrôle et, surtout, l'exploitation des individus. Un participant a également mentionné le fait que la population en général est mal informée sur la surveillance par l’intelligence artificielle.
Mesures recommandées par les participants pour une IA éthique et responsable
Influencer le changement dès l'école, donc formation à l'éthique de l'intelligence artificielle pour les ingénieurs et spécialistes du domaine. Il a également été mentionné qu'il serait important d'avoir un ministère au sein des gouvernements pour gérer la surveillance de l'industrie, qui est particulièrement vaste et complexe. Certains participants ont souligné l'importance de l'éducation pour garantir que nos valeurs, nos bons comportements et notre éthique en matière d'intelligence artificielle soient enseignées aux développeurs de demain.
Intérêt et littératie par rapport à l’intelligence artificielle
Enjeux éthiques liés à l’IA
La sécurité et la confidentialité sont les deux questions les plus discutées lorsqu'il s'agit d'avertissements concernant l'intelligence artificielle. On s’interroge plutôt sur le niveau d’alphabétisation et d’exposition de la population aux enjeux de l’intelligence artificielle. On voit donc qu’ils subissent un manque délibéré de transparence de leur part.
Enjeux éthiques soulevés par l’intelligence artificielle affective dans le contexte de
EmoScienS à travers les yeux de la Déclaration de Montréal
Utiliser un cadre éthique tel que la Déclaration de Montréal pour évaluer une technologie permet de mettre en perspective les enjeux sensibles que peut soulever l’EIS. Dans le cadre de notre analyse de la technologie EmoScienS, nous avons utilisé la Déclaration de Montréal. Dans le cas de la technologie EmoScienS, nous avons constaté qu'une problématique soulevée ne relevait pas spécifiquement d'un principe.
Facteurs à considérer pour une plus grande acceptabilité
L’impact social, la réputation de l’organisation ou de la technologie, le sentiment de sécurité, la transparence, la fiabilité des résultats, la facilité d’utilisation ainsi que le bénéfice et l’utilité perçus ont été soulignés par les participants et sont des éléments centraux de notre modèle sur l’acceptabilité des nouvelles technologies d’intelligence artificielle. Les questions éthiques soulevées dans ce projet de recherche, telles que la fiabilité, la transparence, la protection de la vie privée et la sécurité, sont des critères d'acceptation spécifiquement désignés par les utilisateurs. La responsabilité, l'autonomie et la discrimination sont des questions qui n'ont pas été spécifiquement évoquées en termes de critères d'acceptation, mais qui sont fortement liées à la réputation d'une technologie ou d'une organisation.
Encadrement de l’intelligence artificielle
Portales et Castañeda (2016) ont exploré le concept d'acceptabilité sociale communautaire pour des projets publics plus controversés. De notre côté, nous avons établi, dans le cadre de nos recherches sur le terrain, les critères d’acceptabilité que les utilisateurs sont les plus enclins à évaluer avant de se lancer dans l’utilisation d’une nouvelle technologie : l’intelligence artificielle et plus particulièrement l’informatique affective. Nous pensons qu’une surveillance plus stricte des technologies d’intelligence artificielle devrait être une priorité.
Recommandations
- Établir les règles du jeu
- Une plus grande transparence et miser sur la diversité
- Responsabilité sociale de la profession
- L’éducation, un levier pour l’acceptabilité
Les auteurs de la revue de la littérature et les participants ont souligné l'importance de créer des agences de vérification pour certifier la conformité des technologies. La collaboration des acteurs tels que les utilisateurs au développement de la technologie aura pour effet d’augmenter son acceptabilité. Pour garantir que les biais algorithmiques soient réduits, notamment en matière d’informatique affective, les organisations doivent promouvoir la diversité au sein de l’équipe de conception.
Limites de l’étude et avenues de recherches futures
Extrait de https://www.ledevoir.com/politique/quebec/580092/ramq-et-retraite-quebec-la-vg-s-zorge-de-la-gestion-des-donnees-confidentielles. Je vais vous poser plusieurs questions afin que nous puissions mieux comprendre votre appréciation de la technologie EmoScienS et de l'intelligence artificielle en général. La perception de PA de la capacité de la technologie à protéger l'intimité et la vie privée des individus.
