Un avenir responsable pour les données

screen grab of chapter from print version

Imaginez un monde où les données travaillent d’arrache-pied pour mettre les ressources aux bons endroits et devancer les problèmes: acheminer les aides humanitaires là où on en a besoin quand on en a besoin, identifier et prioriser les personnes à risque afin qu’elles puissent être aidées, ou repérer les endroits où les choses tournent mal avant qu’elles ne portent préjudice. C’est intéressant, et il est évident que cela pourrait rendre le monde bien meilleur. Dans certains cas, elles le font déjà.

Imaginez maintenant un monde où les données créent un panoptique, où une image de chaque individu ou ménage – ses propensions, ses défauts et ses caractéristiques – est connue et est entre les mains de l’État ou des entreprises qui gèrent de grands ensembles de données. C’est un panoptique qui pourrait être bénin pour beaucoup, mais pas pour tous.

Ces deux mondes pourraient être au même endroit, et c’est à la fois la passionnante promesse et le risque de travailler avec des données. Nous pouvons utiliser les collectes de données pour faire des choses très utiles qui sont très bonnes pour les personnes concernées.

 Si nous sommes à l’hôpital, nous voulons que les médecins recueillent beaucoup de données sous forme de surveillances médicales, pour les aider à prendre des décisions médicales et à nous rétablir. Aussi, nous sommes généralement contents qu’ils utilisent les mêmes données pour comprendre les tendances et créer des prédictions qui pourraient aussi aider les futurs patients.

Nous savons que nous devons veiller à ne pas exposer ces données personnelles par de mauvaises pratiques en matière de sécurité informatique, par exemple. Mais nous pouvons aussi utiliser les données pour déduire toutes sortes de choses qui peuvent être vraies mais privées, ou même entièrement fausses. Dans le groupe “vrai mais privé”, il y a les métadonnées des médias sociaux qui essaient de déterminer qui a une relation amoureuse avec qui. Dans le groupe “entièrement faux”, il existe des systèmes de police prédictifs qui sont beaucoup plus efficaces quant à l’identification des “personnes que la police a tendance à arrêter” que des “personnes qui ont commis des crimes”. Une différence subtile, mais importante.

L’utilisation de données apparemment “anonymes” ne fait nécessairement pas non plus disparaître ce problème; nous réalisons de plus en plus que la plupart des données anonymes qui sont suffisamment détaillées pour être intéressantes, sont en fait étonnamment faciles à rattacher à une personne. 

Risques majeurs, opportunités majeures

Le défi de tout cela, c’est qu’en rassemblant et en utilisant les données, nous réalisons à la fois le potentiel d’un bien énorme et celui d’un préjudice énorme.

Préjudice qui persiste aussi longtemps que les données le permettent. Ces données peuvent passer entre différentes mains, chacune avec des motivations différentes, au fil du temps. Le “Move fast and break things » (agir vite et casser des choses) de la philosophie de la culture technologique de la dernière décennie  devient dangereuse lorsqu’il s’agit d’obtenir et d’utiliser des données sur les humains. Une fois qu’elles sont diffusées dans le monde, et connectées à d’autres ensembles de données, les données sont très difficiles à rendre privées à nouveau. Cela signifie que, chaque fois qu’il s’agit de données, nous devons être beaucoup plus circonspects sur le quoi et le comment que nous le sommes d’habitude lorsque nous construisons d’autres types de technologies qui sont faciles à arrêter si nécessaire.

Bien que le potentiel d’utilisation des données pour améliorer les choses soit énorme, il y a aussi un certain nombre d’embûches non intuitives à la collecte de données et à la création et à l’utilisation de systèmes d’IA et d’apprentissage automatique à partir de ces données, dont nous devons vraiment être conscients si nous voulons progresser en toute sécurité.

Il y a bien sûr un aspect très positif à l’utilisation des données pour améliorer les services publics. Le grand changement de la dernière décennie est que nous avons maintenant toutes sortes de nouvelles technologies intéressantes et puissantes qui peuvent gérer, façonner et faire des prévisions efficaces à partir des données. Qu’il s’agisse de choses banales (recommandations d’épicerie) ou hyper-complexes (voitures auto-portées).

Les fonctionnaires ont maintenant la possibilité et la responsabilité réelles de tirer le meilleur parti de ces technologies pour rendre la vie meilleure. Souvent, nous pouvons le faire en utilisant les données dont nous disposons déjà.

Par exemple, l’organisme de bienfaisance en science des données DataKind UK (dont je suis le mandataire) a récemment aidé une banque alimentaire à utiliser les données pour identifier de façon proactive les clients qui risquaient de devenir dépendants des colis alimentaires. Par conséquent, ces clients pourraient être aiguillés rapidement vers des travailleurs de soutien qui pourraient les aider à résoudre des problèmes plus vastes dans leur vie. Les données existaient déjà; elles ont été utilisées prudemment afin d’améliorer les résultats pour les clients, sans créer de nouveaux risques importants pour eux. 

S’assurer que les données travaillent pour vous

Ainsi, pour ceux qui souhaitent faire un meilleur usage des données dans leur organisation, voici des leçons très claires pour l’année 2020 et les années à venir: 

  • Pensez à ce que vous voulez que les données fassent pour vous. Oubliez un instant la technologie : réfléchissez à ce que vous aimeriez pouvoir mieux prédire, allouer ou comprendre, et aux avantages qui en découleraient pour vos clients ou utilisateurs.
  • Demandez-vous si cela signifie que vous avez vraiment besoin de collecter ou de compiler de nouvelles données, ou si vous pourriez faire plus avec des données déjà existantes. 
  • Assurez-vous de bien comprendre et d’être à l’aise avec les risques futurs que toutes nouvelles collecte et compilation de données pourraient créer pour les personnes qui se trouvent dans cet ensemble de données. Ne vous contentez pas de vagues assurances sur ce qui arrivera plus tard aux données. Assurez-vous de bien comprendre comment elles seront sécurisées et que ce soit garanti d’une façon ou d’une autre.
  • Lorsque vous faites appel à des technologues et à des “spécialistes des données” dans votre travail, soyez un client stimulant et curieux. Les bons technologues devraient être ravis de parler en termes non techniques de l’intérêt de l’utilisation des données, des risques qu’elles pourraient ou non créer à l’avenir, de la façon dont elles seront gérées et des avantages qui en découleront.

Dans l’ensemble, il existe d’énormes possibilités, principalement inexplorées, d’améliorer le fonctionnement de la vie des citoyens grâce à une bonne utilisation des données. L’utiliser de la manière la plus réfléchie et la plus efficace est plus difficile que de l’utiliser paresseusement ou de ne pas l’utiliser du tout, mais demeure important pour nous tous au cours de la prochaine décennie. 

  • Francine Bennett