Enjeux soulevés au cours des ateliers

Les algorithmes sont partout : ils sont donc l’affaire de tous.

• Que l’humain

  garde le contrôle

  sur le développement des algorithmes. Ceci implique un principe de vigilance par rapport au developpement de l'IA

• Ethic by design :

  les developpeurs opoèrent dans un milieu professionnel hyper concurentiel et, nous l'avons vu en profondeur, c'est la pub qui paie une partie du web en échange et de notre attention. Ce règne de la pub et du profit ne peut s'étendre aux algorithmes qui touchent à la sphère publique ! Une manière de mettre de l'éthique dans le code est urgemment à penser.

• Besoin de savoir et de comprendre :

  plus d’éducation au numérique tout au long de la vie. Ce que l'on a commencé à entrevoir dans les ateliers du Gsara est parfois effrayant. Les citoyens se doivent de tenter d'appréhender l'étendue du monde digital en expansion. Si il ne le font pas pour eux, il devraient le faire pour leurs enfants. Un programme scolaire remanié est d'ailleurs aussi évoqué.
• Observant les systèmes algorithmiques aujourd'hui en application tels que ceux de Google ou de Facebook, nous constatons que

  l'apport humain est trop souvent sucité par les biais de l'émotion.

  L'engagement aujourd'hui mesuré et provoqué par ces systèmes se basent sur des réponses-réflexes à des stimulis massivement balancés sur nos écrans. Physiquement absents mais comptés dans le contingent des personnes "impactées", nos doubles numériques voyagent avec nos données dans des bulles et des listes, atteignants sur ces vaisseaux des rivages probables et automatiquement générés.
• Avoir la possibilité de

  comparer nos "personnalisations", nos bulles et nos statistiques

  doivent nous permettre de comprendre ce qui se passe entre la publication et l'affichage d'une info. Quel rôle, quel traitement et quelle limites sont imputables aux "infomédiaires" ? Qu'est-ce qui est généré avec l'info suivie ?
• Pouvoir

  disposer de droits renforcés en matière d’information, de transparence et d’explication quant à la logique de fonctionnement de l’algorithme.

  Où est l'agence nationale de controle algorithmique? Les participants s'étonnent du manque de cadre législatif dans le domaine de la récolte et du traitement des informations. Au delà du récent RGPD européen, les participants ont souvent marqué la responsabilité de l'état belge qui prend rarement l'initiative dans ce domaine. Ils pointent aussi l'enthousiasme naïf de la région wallonne qui semblent vouloir confier au seul secteur privé la digitalisation de nos territoires.
• Faisant suite à l'idée précédente, nous avons également souvent pointé un necessaire "audit permanent" des algorithmes. En effet, un système est parfois mis en branle et se met à produire plein de données. Quelques années plus tard, le traitement est-il toujours adapté à la situation ( typiquement avec les objets technos qui se renouvellent très vite) ? La collecte est-elle encore necessaire ? Se fait-elle sur une structure ad-hoc ? Les personnnes touchées sont-elles toujours informées ?
  

  Avant de donner un blanc-seing aux entreprises pour se dévellopper sur notre territoire, ne devrait-on pas s'équiper d'une instance de contrôle, d'audit des productions algorithmiques ?


• La protection de la vie privée des individus semble être la clé de voute des raisonnements actuels. Mais les publics pressentent et redoutent la mise en place de collectes et de traitements à l'échelle des territoires, autrefois symbolisés par l'Etat et des frontières. Ces barrières n'existant plus vraiment dans le monde digital,

  un pressentiment d' "évasion" de nos données personelles a été souvent évoqué. Poussé à bout, cette inquiétude se transforme en crainte pour notre système sociétal tout entier, en crise civilisationelle.

  Les machines, plus rapides, nous donnerons-t-elles le tempo? Et qu'advient-il de ceux qui ne veulent ou ne peuvent suivre ce tempo ?
• Un autre danger identifié au cours des ateliers est

  la "paresse naturelle" que nous manifestons au contact des technologies

  : qui mémorise encore les numéros de telephone de ses amis ? Plus personne.... Que répondrons-nous aux systèmes qui dressent des listes (IBM 1941), croisent les données et font émerger des "patterns" ou "figures" dans notre monde ? Cette immanence d'un paysage en constante évolution, en constant calcul met au défi notre imagination, notre objectivité et notre mémoire d'être humain ( comme l'invention de l'écriture ou de l'impression automatique en leurs temps). Ces nouvelles "réalités" en sont-elles vraiment ? Les algorithmes font des calculs et nous semblent donc "rationnels". Comment ce concept-clé de notre dévellopement scientifique va-t-il évoluer sous me règne des super-ordinateur ? Le monde aura-t-il encore un sens sans eux ? Pourra-t-on faire le grand écart entre un monde physique incertain et en devenir et un monde "calculé" et pré-construit pâr des systèmes plus "intelligents" que nous ? Cette question sous-tend au final toutes les interrogations et toutes les conclusions de fins d'animation : que sommes-nous en train de bâtir pour nos enfants ?
  

  Recommandations formulées

  Au vu des questions qui se posent ci-dessus, la prochaine génération d'utilisateurs n'aura sans doute d'autre choix que de dévellopper de nouveaux « droits-système » organisant la gouvernance mondiale de notre univers numérique. Ce n'est qu'une fois cela fait que l'on pourrait penser utiliser ces nouveaux outils "intelligents" pour participer à notre cadre politique dans le monde réel.

  1. La société civile doit

     se doter de ces organismes de surveillances/contrôle/audit/débats des algorithmes

     brassant nos données. C'est sans doute-en Belgique- au monde associatif de se mobiliser.

  2. former à l'éthique tous les acteurs de l'écosystème numérique.

     Ce qui signifie sans doute : un changement de paradigme dans la façon de financer la "croissance numérique / une appropriation des dispositifs déployés sur les territoires par les citoyens et édiles / le developpement de bonne pratiques de design social à l'interieur même des algorithmes. Pour cela il faut décloisonner l'écriture hyper-spécialisée des concepteurs et sans doute leur proposer une "éducation politique" ou "citoyenne" en parallele de leur cursus "scientifique". Une meilleure représentation des femmes dans ces métiers serait un premier objectif à atteindre. / une législation contraignante forte pour les entreprises qui seraient dépassées par la puissance des outils numérique et/ou peu regardantes à leurs responsabilités dans ces champs. / Une sensibilisation toute spéciales pour les élus et mandataires publics : il faut veiller au juste équilibre et protéger la citoyenneté et la vie privée devant les bénéfices pécuniers.

  3. Auditer les algorithmes au niveau national

     afin d'éviter les abus et erreurs. Une certification pourrait ainsi être accordée aux entreprises respectueuses du citoyen numérique. Cette tâche est ardue et pourrait s'initier sur les systèmes aujourd'hui chargés de nous recommander de l'info. En effet, les possibilités de recherche et de filtrage sont déja fort avancées et la place des algorithmes est déja prépondérante dans ce champ crucial pour nos démocraties.
  4. Via l'ouverture des codes en opensource, créer une

     transparence de systèmes algorithmiques afin qu'ils deviennent lisibles et compréhensibles par les citoyens.

     Ceci pourrait être augmenté d'outils de visualisation qui mettraient en évidence les méthodes et les limites du calcul effectué.Mieux, l'utilisateur pourrait avoir l'opportunité de corriger ou d'adapter l'algorithme à sa guise.
  5. Dès que l'on touche à la médecine ou à la justice, le traitement automatisé pose aujourd'hui déja question. Afin d'éviter un rejet ou de l'incompréhension face au systèmes , il serait bienvenu de pouvoir comprendre le calcul effectué avec nos données.
     

     Des personnes-ressources devraient être désignées au sein des entreprises

     pour répondre au interrogations des clients et du public.
  6. Dans le même ordre idée, un

     droit de corrections de ses propres données personnelles

     devrait être possible. Lorsqu'une entreprise/entité détient des données sur moi, je devrais être en mesure de modifier ces données quand cela me chante.
  7. Prochainement uberisés : l'éducation / La vie politique / La culture et les médias / La justice / La banque & la finance / La défense et la securité / Les assurances / l'emploi & le recrutement / L'amour ?