Compte-rendu | Intelligence artificielle et Big Data en prévention du suicide, utilisations actuelles et enjeux éthiques

Bien que le fait de mettre fin à sa propre vie soit un problème très grave, le suicide reste un phénomène relativement rare comparativement à d’autres maladies. Selon des études effectuées par l’OMS, 800 000 personnes se suicident par an. Alors qu’au Canada, le taux de suicide est de 11.5 pour 100 000 habitants, au Québec, ce taux atteint de 13.2, selon Statiques Canada (2017). Malgré des investissements en prévention, ces taux ne semblent pas diminuer dans certains pays. Afin de contrer ce phénomène « plateau », des technologies de l’information et de la communication sont actuellement employées dans plusieurs pays afin de pouvoir améliorer les dispositifs de prévention en place. L’usage de ces technologies irait dans le sens des objectifs de l’OMS visant à améliorer la surveillance et à offrir des services mieux adaptés aux personnes suicidaires. Parmi ces technologies, le Big Data et l’intelligence artificielle émergent comme des outils qui permettraient de repérer les personnes suicidaires. L’intervention auprès d’eux se ferait plus rapidement à l’aide de ces technologies. Toutefois, ces outils feraient l’objet de plusieurs critiques. D’une part, il y a peu de transparence dans les mécanismes employés par ces technologies. D’autre part, ces technologiques soulèvent plusieurs défis éthiques, notamment celui de la surveillance et de la liberté individuelle.

Comment peut-on repérer, de façon éthique, les personnes en détresse ?

Dans le cadre de sa recherche doctorale, Carl Maria Mörch tente de documenter les usages du Big Data et de l’intelligence artificielle en prévention du suicide, d’identifier les enjeux éthiques soulevés par les chercheur.e.s qui développent de telles machines – si ceux-ci les ont soulevés – et de proposer des recommandations spécifiques qui seraient intégrées dans le processus de conception de ces technologies.

Le chercheur a mené une étude de portée (Scoping Study) visant à recenser systématiquement les publications scientifiques abordant le sujet. Au total, 74 articles portant sur l’emploi du Big Data et de l’intelligence artificielle en prévention du suicide ont été retenus pour cette recherche. Les textes ont été extraits de quatre bases de données, dont deux en santé (médecine et psychologie), une en sciences humaines et une en sciences informatiques. Une syntaxe de recherche thématique rassemblant les techniques utilisées en prévention du suicide a été aussi développée par l’équipe de recherche.

Résultats préliminaires

Sept catégories d’utilisation ont émergé des données de la recherche. L’infoveillance, l’infodémiologie, le repérage par senseurs et capteurs, l’intégration informatisée des dossiers cliniques dans les services de santé et le repérage des personnes suicidaires par l’analyse automatique apparaissent comme des usages récurrents de ces technologies dans le domaine. Particulièrement, le repérage par l’analyse automatique des données regroupe trois types de sources : les bases de données clinico-administratives, les contenus publiés sur Internet et le langage (enregistrements vocaux).

Les publications portant sur des recherches basées sur l’infoveillanceet l’infodémiologie présentent des études à large échelle à partir de Google Trends, c’est-à-dire des mots-clés les plus recherchés sur Google. Ces tentatives visent à cartographier les risques suicidaires, comme dans les travaux de création des cartes saisonnières de la grippe. Cependant, les résultats issus de ces études ne s’appliqueraient pas aux différents contextes dans la planète.Le repérage par senseurs et capteursest effectué par l’usage de caméras et les infrarouges afin de déterminer les comportements dans des endroits sous haute surveillance, comme dans les prisons. Le repérage des personnes suicidaires se ferait aussi par l’intégration informatisée des dossiers cliniques dans les services de santé. Cette méthode aurait une portée administrative et permettrait d’identifier les cas dont une intervention se fait nécessaire. Le repérage par l’analyse automatique des donnéespar l’utilisation des bases de données clinico-administratives aurait une portée individuelle et permettrait d’effectuer un suivi étroit et en temps réel auprès des personnes suicidaires. L’analyse linguistique des contenus publiés sur les réseaux sociauxpermettrait de prédire certaines tendances suicidaires chez les usagers. Ce type d’analyse reste encore expérimental, puisqu’il n’y a pas suffisamment d’études dans le domaine afin de confirmer son efficacité. De plus, le fait d’extraire les données des réseaux sociaux via l’interface des applications n’assurerait pas la neutralité des données utilisées dans les tentatives de prédiction de comportements suicidaires. Le repérage par analyse automatique ou acoustique du langagepermettrait d’identifier des traces de comportement suicidaire à partir de l’analyse de la voix et de la façon dont les discours et les mots sont prononcés.

Les résultats préliminaires de la recherche indiquent que les enjeux éthiques sont peu mentionnés dans les études scientifiques. Ils montrent aussi que la plupart des initiatives proviennent du secteur privé et les données peuvent être biaisées durant la sélection des informations qui seront traitées par ces systèmes intelligents. Quant à l’intervention, les résultats indiquent que ces technologies sont peu précises lorsqu’elles doivent déterminer les moyens d’intervenir auprès des personnes suicidaires. Les chercheur.e.s font aussi face à d’autres défis, comme les faux positifs et les faux négatifs, le consentement et le respect de la vie privée.

« Protocole Canadien » : un outil pour guider les développeurs

Mörch mène actuellement un projet visant à surmonter ces obstacles. Le projet, le « Protocole Canadien », est réalisé en collaboration avec le chercheur en IA et éthique : Abishek Gupta de l’Université McGill. Il vise à développer un outil de type check-listdestiné aux développeurs en IA et, particulièrement, ceux travaillant sur des projets en santé. Cet outil permettrait à ces professionnels d’intégrer des principes éthiques dans les différentes phases du développement de ces technologies.

Le « Protocole Canadien »  est composé de questions formulées à partir des recommandations issues des études en IA et en Big Data et adaptées à la prévention du suicide. Ces questions découlent de quatre catégories principales : la description du fonctionnement du système intelligent, la vie privée et la transparence, la sécurité, les risques reliés à la santé et les biais.

Le faible nombre de lois réglementant les enjeux éthiques en IA et la multiplication des initiatives privées de développement de technologies sans la présence de comités éthiques représentent des facteurs qui ont motivé les chercheurs à entamer le projet. D’ailleurs, plusieurs rapports et déclarations en matière d’IA indiquent le besoin d’éduquer les développeurs sur les enjeux éthiques en IA et d’établir des collaborations interdisciplinaires.

Période de discussions

Les enjeux de surveillance ont été largement abordés durant la période de discussions. Le chercheur assume que ces technologies peuvent fonctionner comme un instrument de contrôle social, d’où la nécessité d’outiller les développeurs afin de leur permettre de réfléchir sur les aspects éthiques de la conception des systèmes intelligents. La difficulté d’avoir une sorte de transparence concernant le financement et la conception de ces objets technologiques représenterait l’un de ces défis éthiques, puisque le droit intellectuel et les secrets d’affaires empêchent que certaines informations et procédures soient divulguées et évaluées publiquement. Le chercheur illustre cette question en citant le cas des fournisseurs Internet dont les bases de données regroupement une grande concentration d’informations sur les usagers. L’offre de ce type de service est parfois mal encadrée par la loi. L’audience a aussi souligné être préoccupé par certains aspects dont le droit à l’oubli, l’accès aux informations récoltées, ainsi que le besoin d’une réglementation du numérique.

Carl Maria Mörch a aussi souligné les difficultés éprouvées dans l’intervention auprès des personnes suicidaires lorsque les relations d’aide s’établissent via les technologies. Il a cité l’exemple des lignes d’aide via les outils de clavardage. L’analyse des messages échangés peut s’avérer difficile, compte tenu du gros volume de textes et de la difficulté de saisir les sentiments et les idées à travers ces outils. L’intervention prend différentes formes en fonction de la technologie qui fait la médiation entre intervenant.e.s et patient.e.s.

L’audience a aussi discuté des formes de consentement proposées par les entreprises offrant des services autonomes en ligne. Le consentement peut être de type formel (l’usager signe un document attestant la connaissance des règlements d’usage) ou de type implicite (l’acceptation des conditions d’utilisation ne se fait qu’une fois, bien que ces règles puissent être modifiées en cours de route). Par ailleurs, les consentements renouvelable (l’usager devrait passer par des filtres pour assurer le consentement) et dynamique (dès qu’un changement des règles d’utilisation se présente, une nouvelle demande de consentement est émise) se présentent comme des procédures plus éthiques que les modèles de consentement établis actuellement.

Résumé

Le suicide cause le décès de plus de 800 000 personnes par an à travers le monde (OMS, 2014). L’Organisation mondiale de la Santé a publié un rapport en 2014 qui fixe plusieurs objectifs : mieux cibler les populations vulnérables et faciliter leur accès aux lignes d’aide (OMS, 2014). Mais en dépit d’investissements de santé publique importants, des pays (comme les États-Unis) ne parviennent pas à faire baisser leurs taux de suicide ou les coûts associés (Braitwhaite et col., 2016). Dans cette perspective, chercheurs, acteurs privés et gouvernements veulent innover pour mieux prévenir le suicide. À cette fin, ils utilisent des techniques associées au Big Data et à l’Intelligence artificielle. Ce séminaire présentera plusieurs des utilisations qui en sont faites aujourd’hui : l’analyse linguistique, l’analyse acoustique, l’infodémiologie, le repérage dans les bases de données cliniques, l’utilisation des réseaux socionumériques et enfin l’utilisation de senseurs-capteurs. La présentation détaillera les promesses et les défis éthiques associés au fait de repérer automatiquement les individus suicidaires sur Internet.

Conférencier : Carl Maria Mörch, doctorant en psychologie communautaire à l’UQAM
Date : 6 avril 2018 de  12h30 à 13h45
Lieu : UQAM, Pavillon Judith-Jasmin de l’UQAM, 405 rue Sainte-Catherine Est, local J-2625; Université Laval (vidéoconférence), local DKN-3244.

Conférence en collaboration avec le LabCMO.