Quelle intelligence artificielle au service des habitants et du territoire ?

L’avis doit contribuer à nourrir la réflexion sur l’encadrement et les conditions de déploiement de l’IA L'objectif de la convention est de déterminer les orientations de l'IA, les prioriser et travailler les enjeux et conditions de mise en œuvre.

Vendredi 10 novembre 2023 : 

A la suite des interventions de Michael Delafosse, Cédric Villani, Séverine Saint-Martin et Manu Reynaud, un temps d’interconnaissance entre participants a permis de faire émerger le cadre de collaboration, qui sera revalidé à chaque rencontre. C’est un élément clé de réussite d’une convention et de tout travail collaboratif.

Les questions travaillées par groupes de 4, transmises au panel d’ouverture, ont donné lieu aux premières briques d’acculturation sur ce sujet complexe de l’IA.

Intervention de Jacques Priol « À l’ère du Big Data – la société passe de plus en plus par la transmission de données »

Échanges avec Cédric Villani :

2 éléments de l’IA sont à tenir en compte :

• D’une part, le sujet est fortement interdisciplinaire. Question de la technique algorithmique et des usages.
• D’autre part, cela touche à la question générale de notre rapport à la technologie en lien avec des questions philosophiques de vision du monde. L'approche est soit techno-critique soit techno-enthousiaste.

Sur l’(in)explicabilité de l’IA : on a des applications et il faudra peut-être 50 ans pour avoir la théorie.

Quelle protection pour nos données ?

3 types de problèmes peuvent se poser sur les données pour construire une IA :

• Les questions techniques : compatibilité des formats; on arrive toujours à les régler.
• Les questions éthiques et juridiques : d’un secteur à l'autre, d’un pays à l’autre; certaines informations donnent un petit bout de pouvoir.
• La gouvernance humaine : qui a le contrôle; qui va l’héberger ? Acteurs publics, privés ? C’est le problème le plus difficile à régler. Les questions de sous-régulation et sur-régulation co-existent. Sur la santé c'est sur-régulé.

Conclusion :

Il est très difficile de protéger les données, comme l'a démontré une spécialiste de la cybersécurité en accédant à des dossiers privés.

L'une des faiblesses évidentes de l’IA a trait à la médecine : que se passe-t-il le jour où il y a une coupure d’électricité ou plus sûrement une cyberattaque ? Il existe un réel problème de perte de compétences.

Un équilibre est à trouver

Résilience et performance vont en sens contraire. Plus on a de performance moins on a de résilience.

Ateliers sur des cas spécifiques de l’Intelligence artificielle :

Les cas d’usages

5 cas d’usage sont proposés pour illustrer les compétences où l’Intelligence Artificielle peut ou pourrait apporter des solutions. Les cas sont présentés de telle sorte que les points de vue de différents types d’usagers soient représentés. En effet, les bénéfices et les craintes sont différents selon les citoyens et citoyennes.

Chaque participant a pu réfléchir à 2 des 5 sujets proposés :

1. “Avec L’IA la fin des problèmes d’eau”
2. “L’IA au secours de la santé”
3. “L’IA la clé des problèmes de mobilité”
4. “ChatGPT pour une nouvelle relation à l’usager”
5. “Plus de justice sociale grâce à l’IA”

“Avec L’IA la fin des problèmes d’eau”

Entre les pénuries d’eau et les inondations qui se suivent, la gestion de l’eau devient un problème croissant sur nos territoires. La gestion de l’eau (partage équitable de la ressources, anticipation des sécheresses et inondation, monitoring) pourrait être facilitée grâce à l’IA.

Les éléments qui ressortent de l’atelier :

• La fiabilité et le paramétrage sont vus comme des éléments clés à la fois en termes de bénéfices (meilleure répartition, gestion des flux, anticipation..) et de craintes (biais de paramétrage, favorisant certains, pouvoir d’ouvrir ou fermer les robinets).
• La question de savoir qui va gérer et l’éthique (surveillance, injustice sociale) sont également des éléments importants relevés.
• Les investissements sont pointés et à mettre en relation avec les gains.

“L’IA au secours de la santé”

Les avancées de la médecine reposent de plus en plus sur l’accumulation massive de données, dont les nôtres! Cela ne va pas sans poser de nombreuses questions.

Les éléments qui ressortent de l’atelier :

• La fiabilité apparaît comme un vrai bénéfice en matière de santé (diagnostics, recueil des besoins des patients, la “neutralité” de l’IA vis à vis des personnes.
• Le gain est mis en balance face aux investissements nécessaires.
• La sécurité des données personnelles est relevée ainsi que le risque de déshumanisation et de perte des compétences des hommes et des femmes médecins.

“L’IA la clé des problèmes de mobilité”

L'équilibre entre les avantages potentiels de l'IA pour améliorer la mobilité urbaine et la protection des droits individuels reste un défi crucial.

“ChatGPT pour une nouvelle relation à l’usager”

Face à la complexité du service public, ChatGPT pourrait apporter des réponses à tout type de situation et de besoin. Le risque n’est-il pas la disparition de tout contact humain ?

Les éléments qui ressortent de l’atelier :

• La place de l’humain est notée par les participants ainsi que le questionnement sur le devenir des fonctionnaires remplacés par l’IA. Cela pourrait permettre aussi la création de nouveaux métiers où la technicité serait moins importante que la relation humaine. La formation des agents et des habitants que ce soit pour l’IA ou pour ces nouvelles approches est indiquée pour éviter une nouvelle fracture numérique.

“Plus de justice sociale grâce à l’IA”

L’IA pourrait être un outil précieux pour améliorer la rapidité, l'équité et la justice sociale dans les processus d’attribution des logements, mais sa complexité pourrait être la source d’une nouvelle “fracture numérique”.

Les éléments qui ressortent de l’atelier :

• La fiabilité et le paramétrage de l’IA sont pointés aussi bien en bénéfices qu’en craintes. En matière de bénéfice, l’IA est vue comme source d’équité dans la priorisation des dossiers, d’objectivité et d’égalité des chances. Les craintes concernent la capacité à s’ajuster en cas d’imprévu, le traitement des cas complexes (comment les faire entrer dans des “cases”).
• La perte de relation humaine est également évoquée bien que l’IA puisse libérer du temps de gestion pour améliorer le lien.

À ce stade de la convention, plusieurs éléments ressortent et pourraient permettre de commencer à structurer, si ce n’est l’avis, au moins le questionnement. Ces éléments sont issus des paroles des citoyens et devront être confirmés, infirmés, et complétés par les membres.
 

Les objectifs généraux :

• Confiance : avoir des conditions de déploiement qui permettent d’avoir confiance dans l’utilisation des données et la manière dont les IA fonctionnent.
• Transparence : avoir des conditions qui permettent de comprendre et savoir ce qui se passe avec nos données et l’IA.
• Éthique et mesure : l’IA et la gestion des données doivent se faire en gardant de la mesure en toute chose et en s’assurant que l’humain reste le facteur prépondérant.
• Souveraineté : la métropole et les citoyens doivent garder le contrôle de la donnée et de l’IA.

Les enjeux communs révélés par les différents ateliers :

• Le paramétrage des algorithmes : comment s’assurer que le biais des algorithmes reste le plus neutre et équitable possible ? Comment s’assurer que cette neutralité ne nuise pas à des politiques sociales ?
• Fiabilité des données et des informations transmises par l’IA : comment mettre à jour et s‘assurer de la fiabilité des données surtout si elles entraînent des conséquences individuelles ? Comment s’assurer d’un traitement des erreurs fait par l’IA sur des questions sociales entre autres ?
• Sécurisation des données : comment s’assurer que les données sont réellement sécurisées (protection de la vie privée, protection des données, objectivité, biais, imprévus...) ?
• Dépendance / déresponsabilisation (des usagers, des services, des décideurs) : comment s’assurer qu’il n’y a pas de perte de compétences des humains ? Comment faire en cas de problèmes techniques ?
• Équilibre entre coût d'investissement / gains solutions : quel équilibre entre le coût humain, financier, énergétique et l’impact concret recherché de l’IA ?
• Gestion des IA : par qui, comment et à quelles conditions au sein des services publics les IA et la gestion des données doivent être opérées ? 
• Place de l’humain et de la relation entre humains : comment tenir compte de la diversité humaine, de nos différences et éviter la standardisation au risque de faire entrer les gens dans des cases ?
• L’accès à la formation sur l’IA : comment éviter une nouvelle fracture socio-économique et assurer l’inclusion de toutes et tous ?