IA, neurosciences et technologies : tension entre liberté citoyenne et liberté de la recherche scientifique. Premiers résultats d’une démarche de science participative

Archive ouverte : Article de revue

Fourneret, Éric | Doat, David | Laurent, Nathanaële | Poullet, Yves | Valérie, Tillman | Guillermin, Mathieu

Edité par HAL CCSD ; AFIA

International audience. L’hypothèse centrale du projet de science participative « New Humanism at the time of Neuroscience and Artificial Intelligence » (NH- NAI), dont nous présentons dans cet article la démarche et un premier résultat, postule que les progrès de ces dernières années en intelli- gence artificielle et dans les neurotechnologies réinterrogent en profondeur nos conceptions de ce que signifie pour chacun et collectivement « être humain ».En effet, si les avancées en IA et dans les technosciences du cerveau portent l’espoir d’importantes avancées dans le domaine de la santé, dans la compensation des formes de han- dicap (i.e. « Brain Computeur Interfaces », BCI) et dans le traitement de certains troubles neurologiques (diagnostic et approches théra- peutiques), elles annoncent aussi des applica- tions (i.e. monitoring, traçage, profilage ou sur- veillance) qui pourraient s’insérer au plus intime de la vie des sujets et dans leur vie sociale, ou impacter en profondeur les moyens de l’édu- cation (tel que l’usage de ChatGPT en for- mation) et les pratiques démocratiques. De ce fait, elles soulèvent de nombreuses questions quant à notre identité humaine et son avenir dans un monde où le rôle des technologies nu- mériques dans l’évolution des sociétés ne fait plus de doute.Tout citoyen étant concerné par ces nou- velles questions, le projet NHNAI entend offrir un cadre de réflexion collective et de délibé- ration qui permettra une élaboration de pistes et propositions de réponses communes. Il ac- corde à la pluralité des points de vue une consi- dération significative, appréhendée par divers moyens : organisation d’entretiens individuels, mise en place d’ateliers-citoyens en présentiel et tenue de débats publics en ligne via une pla- teforme numérique (« Cartodébat ») où chaque citoyen peut entrer en dialogue et participer à l’échange des arguments 44. L’intérêt du projet NHNAI est ainsi de susciter et permettre un dialogue au sein d’un échantillon de citoyens porteurs d’une diversité de savoirs, de compé- tences et d’engagements en société, pour dé- gager des lignes de conduites enrichies de la diversité des apports de toutes les parties pre- nantes de la discussion publique.Sur cette base, l’objectif final du projet est de parvenir, au terme de son programme en 2024, à formuler des recommandations à des- tination des acteurs politiques et des institu- tions, dans l’espoir que ce type de technos- ciences n’impacte pas la société sans que cette dernière n’en ait collectivement pensé quelques enjeux éthiques et sociaux. Ces recommanda- tions ne seront pas issues d’un référendum ou d’un sondage, ni d’une « moyenne » des opi- nions collectées. L’enjeu du projet est de pen- ser une approche éclairant et informant d’au- tant mieux le politique dans ses décisions que ce dernier sera, outre l’avis des plus experts sur un sujet (les scientifiques et représentants en sciences humaines et sociales), accompagné par des recommandations élaborées et dé- libérées collectivement par des citoyens faisant part de leurs propres préoccupations.Dans le cadre de cet article, nous nous limitons à situer le projet NHNAI par rap- port à la littérature en sciences participatives. Nous présentons ensuite un premier résultat des échanges entre participants du projet, qui souligne leurs préoccupations en matière d’IA, de respect de leur liberté et de préservation des conditions les meilleures pour la réalisation de la recherche. Nous proposons enfin une pre- mière interprétation de ces résultats à la lu- mière des concepts d’aliénation et de privauté mentale.

• Contient
• Sujet
• Description
• Oeuvre