Quelle intelligence artificielle au service des habitants et du territoire ?
Lors de cette 3ème rencontre, les membres de la convention ont formulé et rédigé leurs préconisations.
Intervention de Bertrand Pailhès – Directeur des technologies et de l’innovation de la CNIL
Méthodologie
Après relecture des règles de fonctionnement, et pour commencer la journée d’écriture de l’avis, le processus et la méthode de vote sont présentés.
Préambule, chapitres et sous-chapitres issus des ateliers précédents sont affichés au format A3. Des tours de “sprint” d’écriture sont organisés par petits groupes. Chaque groupe d’un minimum de 2 personnes et d’un maximum de 6 personnes s’emparent d’un sous-chapitre et se mettent à le rédiger en 20 minutes.
Le retour en plénière pour mesurer via le jugement majoritaire, le niveau d’acceptation de ce qui a été écrit.
Les paragraphes nécessitant une ré-écriture sont remis en jeu.
Le système de vote
Le système de vote proposé aux participants de la convention est celui du “jugement majoritaire” qui consiste à se positionner non pas pour ou contre, mais de donner la mesure de son accord. Cette méthode a l’avantage de sortir d’un clivage en deux blocs et de permettre de mesurer le niveau d’accord de chacun.
Niveaux 4 et 5, on peut considérer que la phrase ou le paragraphe proposés correspondent à un bon niveau d’acceptation et la rédaction est gardée dans l’avis.
A partir du niveau 3, cela signifie qu’il y a suffisamment de points de désaccords entre participants, pour que la phrase ou le paragraphe soit ré écrit.
Le principe est simple : on lève le nombre de doigts correspondant à son ressenti et le comptage est fait.
La structure de départ
Les éléments issus du travail des citoyens ont été systématiquement repris (sans les modifier) à partir du tableau récapitulatif des enjeux compilés issus des « post-it ». Ils figurent en noir tout au long du support. Les problématiques en bleu ont été formulées avec le comité d’experts.
Les questions qui en découlent sont posées à l’initiative de la Métropole. Les citoyens peuvent s’en inspirer, mais aussi les reformuler, en ajouter ou en supprimer.
L’écriture de l’avis
Après les tours d’écriture de la matinée, toutes les propositions ont été mises bout à bout durant le déjeuner. Des doublons ont été repérés ainsi que des points de tension ou de divergence. Le service communication traitera les fautes d'orthographe et de syntaxe une fois l’avis rédigé dans sa totalité.
Il est proposé à la convention de formuler ses avis selon plusieurs degrés : juge, alerte, signale, préconise... Cela donne le pouls de l’avis.
Globalement, sur la nature de l'avis, il ressort que le groupe est plutôt d'accord ; c'est sur l'aspect niveau de force de la préconisation qu'il y a débat.
C’est la raison pour laquelle le vote par jugement majoritaire est adéquat car il permet d’indiquer d’échanger et d’indiquer son degré d’approbation ou non concernant une proposition.
C’est pour nous une très grande fierté d’avoir organisé cette Convention Citoyenne.
Notre ambition et notre volonté est de mettre en œuvre de nouvelles formes démocratiques pour associer les citoyennes et citoyens. Parmi tous ces nouveaux formats démocratiques, la convention citoyenne est sans conteste le plus ambitieux, le plus exigeant, le plus engageant : pour vous et nous.
Lorsque nous avons préparé, avec le comité d’expert, les équipes du service Engagement citoyen et de Civitéo, nous nous sommes beaucoup questionnés sur les ressources, les auditions à mettre à votre disposition pour éclairer vos délibérations sans les orienter. Nous nous sommes beaucoup questionnés sur les méthodologies d’accompagnement, de facilitation à mettre en œuvre pour vous permettre à la fois d’avoir un temps suffisant d’informations, de débats permettant à chacun d’exprimer son point de vue et de délibérations collectives.
J’ai assisté avec beaucoup d’intérêt et, je dois le dire, avec beaucoup de joie à l’ensemble de vos travaux.
Cette convention a été, de mon point de vue, un vrai moment de démocratie. Aussi, je veux très sincèrement et chaleureusement vous remercier pour la qualité de vos débats, votre implication et le sérieux dont vous avez fait part tout au long de vos travaux. Je reprends votre proposition de faire du « Made in Montpellier » !
Que cette première convention citoyenne soit le début d'une longue série pour faire de notre territoire, un territoire qui incarne le renouveau démocratique. »
Séverine Saint Martin, déléguée au renouveau démocratique et à l'innovation sociale.
L'investissement est important et M. Delafosse s’est engagé dans la mise en œuvre des moyens nécessaires. En tant qu'élu délégué adjoint au numérique et Séverine au renouveau démocratique, notre engagement dans cette aventure de la convention citoyenne est total.
Une stratégie c’est quelque chose d’important : dire aux politiques attention à ne pas décevoir, le suivi n'est pas à lâcher.
Quelques points qui me touchent beaucoup :
L’utilité : une évidence qui devraient l'être pour tous. Il faut la traduire en acte : que ce soit véritablement utile, que cela n'ait pas été déjà développé ailleurs, etc... il faut poser toutes ces questions.
Poser des points d'alerte, ce qui est dans les encadrés, qui a fait débat. Poser l'interdiction de la reconnaissance faciale, interdit dans la Métropole. Le comité d'éthique, c'est vous qui l'avez voulu, les politiques publiques sur l’IA seront ainsi contrôlées. Une équipe IA est fondamentale pour gérer en interne. Je pourrai aller dire au Directeur général des services, les membres de la convention le veulent, donc il faut y aller. C’est la première expérience de convention sur Montpellier et à l'échelle nationale sur ce thème.
Il y aura des suites ; en conseil de Métropole, des points d'actualité, une rencontre avec M. Delafosse. Le numérique a pris une part fondamentale dans nos vies, cette convention va nous servir et vous aurez un droit de suite. »
Manu Reynaud, délégué au numérique.
Préconisations des citoyens membre de la convention :
- 1. Des IA utiles au territoire et à ses habitants
- 1.1 Faire des choix : pour une IA qui vise l’amélioration du service public
- 1.2 Définir des critères d’utilité pour le développement d’une IA sur le territoire
- 1.3 Cibler des thématiques et des projets qui pourraient profiter de l’IA
- 2. Des IA avec un impact environnemental positif
- 2.1 S’assurer d’un impact environnemental positif pour les projets utilisant de l’IA
- 2.2 S’assurer du moindre impact environnemental à travers des équipements plus frugaux
- 2.3 Définir des critères pour juger de l’équilibre entre besoin et impact environnemental des IA
- 3. Garantir la protection de la vie privée
- 3.1 Garder le contrôle sur nos données personnelles
- 3.2 Protéger les données de façon renforcée
- 4. Des contrôles neutres et indépendants
- 4.1 Instaurer des comités traitant de la data et de l’IA
- 4.2 Contrôler la fiabilité des systèmes d’IA utilisés par la Métropole
- 4.3 Organiser des concertations préalables aux projets IA menés par la Métropole
- 5. La transparence
- 5.1 Paramétrer les algorithmes afin qu’ils permettent la transparence
- 5.2 Contrôler la qualité des sources d’informations qui nourrissent des algorithmes
- 5.3 Organiser des concertations préalables aux projets IA menés par la Métropole
- 6. La souveraineté
- 6.1 Conserver la maitrise du paramétrage des algorithmes
- 6.2 Conserver la souveraineté sur les données
- 6.3 Organiser des concertations préalables aux projets IA menés par la Métropole
- 7. Ne pas dénaturer le service public
- 7.1 S’assurer que la mise en place d’IA ne s’accompagne pas de souffrance au travail pour les agents de services publics et ne vise pas à remplacer les agents
- 7.2 Conserver la prédominance de l’humain dans les missions de services publics
- 7.3 Prendre en compte l’impact de l’IA dans la transformation des métiers
- 7.4 Avoir une attention sur les compétences et les moyens internes de la collectivité pour piloter les projets IA
- 7.5 S’assurer de l’égalité des territoires de la Métropole
- 8. Rendre accessible l’IA au plus grand nombre
- 8.1 Porter des actions de sensibilisation et de communication sur l’IA à destination du grand public
- 8.2 Diffuser des programmes de formation pour le grand public et les professionnels
- 8.3 Prendre une position nationale pour l’éducation à l’IA