IA, neurosciences et technologies : tension entre liberté citoyenne et liberté de la recherche scientifique. Premiers résultats d’une démarche de science participative

Archive ouverte : Article de revue

Fourneret, Éric | Doat, David | Laurent, Nathanaël | Poullet, Yves | Valérie, Tillman | Guillermin, Mathieu

Edité par HAL CCSD ; AFIA

International audience. The central hypothesis of the participatory science project "New Humanism at the time of Neuroscience and Artificial Intelligence" (NH-NAI), whose approach and initial findings we present in this article, posits that the recent advancements in artificial intelligence and neurotechnologies profoundly reexamine our conceptions of what it means to be human, both individually and collectively.Indeed, while advancements in AI and brain technosciences hold the promise of significant progress in health, in compensating for disabilities (e.g., Brain-Computer Interfaces, BCI), and in treating certain neurological disorders (diagnosis and therapeutic approaches), they also herald applications (e.g., monitoring, tracking, profiling, or surveillance) that could penetrate the most intimate aspects of individuals' lives and their social interactions, or profoundly impact educational methods (such as the use of ChatGPT in training) and democratic practices. Consequently, these advancements raise numerous questions about our human identity and its future in a world where the role of digital technologies in societal evolution is beyond doubt.Since these new questions concern every citizen, the NHNAI project aims to offer a framework for collective reflection and deliberation, enabling the development of pathways and common proposals. It grants significant consideration to the plurality of viewpoints, approached through various means: organizing individual interviews, setting up in-person citizen workshops, and holding online public debates via a digital platform ("Cartodébat") where every citizen can engage in dialogue and participate in the exchange of arguments. The value of the NHNAI project thus lies in fostering and enabling dialogue among a sample of citizens with diverse knowledge, skills, and societal commitments, to develop guidelines enriched by the diverse contributions of all public discussion stakeholders.On this basis, the project's ultimate goal is to formulate recommendations for political actors and institutions by the end of its program in 2024, hoping that such technosciences will not impact society without it having collectively considered some ethical and social issues. These recommendations will not result from a referendum or a survey, nor from an "average" of collected opinions. The project's challenge is to conceive an approach that better enlightens and informs political decision-making, which will be, in addition to the opinions of experts on a subject (scientists and representatives in the humanities and social sciences), accompanied by recommendations collectively developed and deliberated by citizens sharing their own concerns.In this article, we limit ourselves to situating the NHNAI project in relation to the literature on participatory sciences. We then present an initial result from the exchanges between project participants, highlighting their concerns regarding AI, respect for their freedom, and preserving the best conditions for research. Finally, we propose a first interpretation of these results in light of the concepts of alienation and mental privacy. . L’hypothèse centrale du projet de science participative « New Humanism at the time of Neuroscience and Artificial Intelligence » (NH- NAI), dont nous présentons dans cet article la démarche et un premier résultat, postule que les progrès de ces dernières années en intelligence artificielle et dans les neurotechnologies réinterrogent en profondeur nos conceptions de ce que signifie pour chacun et collectivement « être humain ».En effet, si les avancées en IA et dans les technosciences du cerveau portent l’espoir d’importantes avancées dans le domaine de la santé, dans la compensation des formes de han-dicap (i.e. « Brain Computeur Interfaces », BCI) et dans le traitement de certains troubles neurologiques (diagnostic et approches thérapeutiques), elles annoncent aussi des applications (i.e. monitoring, traçage, profilage ou surveillance) qui pourraient s’insérer au plus intime de la vie des sujets et dans leur vie sociale, ou impacter en profondeur les moyens de l’éducation (tel que l’usage de ChatGPT en formation) et les pratiques démocratiques. De ce fait, elles soulèvent de nombreuses questions quant à notre identité humaine et son avenir dans un monde où le rôle des technologies numériques dans l’évolution des sociétés ne fait plus de doute.Tout citoyen étant concerné par ces nouvelles questions, le projet NHNAI entend offrir un cadre de réflexion collective et de délibération qui permettra une élaboration de pistes et propositions de réponses communes. Il ac- corde à la pluralité des points de vue une considération significative, appréhendée par divers moyens : organisation d’entretiens individuels, mise en place d’ateliers-citoyens en présentiel et tenue de débats publics en ligne via une plateforme numérique (« Cartodébat ») où chaque citoyen peut entrer en dialogue et participer à l’échange des arguments 44. L’intérêt du projet NHNAI est ainsi de susciter et permettre un dialogue au sein d’un échantillon de citoyens porteurs d’une diversité de savoirs, de compétences et d’engagements en société, pour dé- gager des lignes de conduites enrichies de la diversité des apports de toutes les parties prenantes de la discussion publique.Sur cette base, l’objectif final du projet est de parvenir, au terme de son programme en 2024, à formuler des recommandations à destination des acteurs politiques et des institutions, dans l’espoir que ce type de technosciences n’impacte pas la société sans que cette dernière n’en ait collectivement pensé quelques enjeux éthiques et sociaux. Ces recommandations ne seront pas issues d’un référendum ou d’un sondage, ni d’une « moyenne » des opinions collectées. L’enjeu du projet est de penser une approche éclairant et informant d’au- tant mieux le politique dans ses décisions que ce dernier sera, outre l’avis des plus experts sur un sujet (les scientifiques et représentants en sciences humaines et sociales), accompagné par des recommandations élaborées et dé- libérées collectivement par des citoyens faisant part de leurs propres préoccupations.Dans le cadre de cet article, nous nous limitons à situer le projet NHNAI par rapport à la littérature en sciences participatives. Nous présentons ensuite un premier résultat des échanges entre participants du projet, qui souligne leurs préoccupations en matière d’IA, de respect de leur liberté et de préservation des conditions les meilleures pour la réalisation de la recherche. Nous proposons enfin une première interprétation de ces résultats à la lumière des concepts d’aliénation et de privauté mentale.

• Contient
• Sujet
• Description
• Oeuvre