Pour une intelligence artificielle au service de l’intérêt général (retour)

I. Les Grands Enjeux de l'IA

Le rapport identifie trois grands enjeux majeurs :

• A. Les Risques d'Atteintes aux Droits Fondamentaux et Libertés Individuelles

  • L'IA soulève des préoccupations en matière de protection des données personnelles et de respect de la vie privée. La collecte et l'analyse massives de données personnelles créent des profils détaillés et permettent la prédiction des comportements futurs, ce qui pose des risques en termes de surveillance et de manipulation. "Chaque interaction que nous avons en ligne [...] laisse des traces numériques […] ces éléments contribuent à créer un profil détaillé de chaque utilisateur, l’“identité numérique”."

  • L'utilisation de l'IA peut impacter un large éventail de droits fondamentaux, tels que le respect de la vie privée, la protection des données personnelles, la non-discrimination, l'accès à la justice, le droit à la dignité humaine, et le droit à la protection des consommateurs. "Le recours aux systèmes d’IA aurait un impact sur un large éventail de droits fondamentaux : le respect de la vie privée, la protection des données personnelles, la non-discrimination […]"

  • Les algorithmes d'IA peuvent reproduire ou amplifier des biais existants, conduisant à des décisions discriminatoires. Les décisions prises par des algorithmes peuvent manquer de transparence et d'explicabilité, ce qui nuit à la confiance dans l'administration et à la capacité des citoyens à contester ces décisions.

  • L'IA peut également être utilisée pour la manipulation, notamment via la création de deepfakes. Celles-ci visent "principalement les femmes" avec "96% des deepfakes" étant des "deepnudes" et ciblant "dans 99 % des cas les femmes".

• B. L'Empreinte Environnementale de l'IA 

  • L'IA nécessite une grande puissance de calcul, ce qui a un impact environnemental important, notamment en termes de consommation énergétique et de ressources (eau, métaux rares). L'installation des data centers nécessaires au fonctionnement des IA est également très gourmande en ressources. "L’installation des data centers (centres de données) nécessaires au fonctionnement des IA appelle également beaucoup de ressources."

  • La consommation énergétique de l'IA est exponentielle et contribue à l'augmentation de l'empreinte écologique du numérique en général. Une seule requête avec ChatGPT nécessite jusqu'à 10 fois plus d'énergie qu'une recherche classique sur Google.

  • Les data centers posent des problèmes de conflits d'usage : la consommation d'eau pour le refroidissement, la production de chaleur, et la pression sur les réseaux électriques. "À Paris, le Digital Realty [...] consomme 295 000m³ d’eau par an, ce qui représente plus de 6 000 fois la consommation moyenne d’un habitant parisien." Il y a des inquiétudes liées à la "privatisation et l’accaparement des ressources en eau de qualité potable" via des pratiques telles que le "river cooling".

  • L'impact environnemental du numérique doit être évalué de manière globale (terminaux, réseaux, centres de données) et multi-critères (empreinte carbone, épuisement des ressources, etc.). L'analyse du cycle de vie (fabrication, distribution, utilisation, fin de vie) est primordiale.

  • Il existe aussi un risque d’effet rebond : les gains d'efficacité énergétique peuvent être neutralisés par une augmentation de la consommation.

  • Néanmoins, l'IA peut également contribuer à réduire l'empreinte environnementale de certains usages (mesure de la qualité de l'air, agriculture durable, etc.). "L’IA peut proposer des solutions opportunes pour réduire l’empreinte environnementale globale"

• C. L'Impératif d'Autonomie Stratégique Européenne

  • L'Europe doit se doter d'une stratégie pour préserver son autonomie dans le domaine de l'IA, en particulier sur des aspects tels que la protection des données, la transparence des algorithmes, et la cybersécurité. "Il est possible de qualifier l’importance d’un État dans une technologie […] en fonction de plusieurs critères"

  • La France et l'Europe doivent investir dans la recherche, l'infrastructure (supercalculateurs, cloud), et la formation, afin de ne pas être distancées par d'autres puissances. La préférence communautaire doit être instaurée dans la commande publique. Le CESE considère que "la bataille de la souveraineté technologique n’est jamais perdue, et doit se mener à l’échelle européenne".

  • L'IA est une innovation duale (civile et militaire), ce qui explique la course à la puissance technologique entre les États. La chaîne de valeur de l'IA est majoritairement concentrée entre les mains de grandes entreprises technologiques américaines et chinoises.

II. Conséquences de l'Adoption de l'IA dans la Société

Le rapport analyse les effets de l'IA dans plusieurs domaines :

• A. Emploi et Marché du Travail

  • L'IA générative a démontré sa capacité à automatiser des tâches diverses, ce qui a des implications sur l'emploi. Cependant, l'IA peut aussi créer de nouveaux emplois dans des secteurs émergents. Il est donc important d'interroger les finalités de l'IA afin de "produire mieux, en adéquation avec nos besoins réels, dans le cadre d’un réel progrès social."

  • Les entreprises cherchent des solutions fiables et innovantes d'IA, et l'intégration de l'IA nécessite une coordination globale et une réflexion sur les usages.

  • L'IA est utilisée dans divers secteurs tels que la maintenance prédictive, la gestion des stocks, et les relations client, ce qui permet d’"une réduction des ruptures de prise en charge" et de viser "un objectif de zéro panne en 2030".

• B. Les Services Publics et l'IA

• L'IA peut améliorer l'efficacité et l'efficience des services publics. Des outils comme "LlaMandement" (DGFiP) ou "Albert" (France Services) illustrent l'utilisation de l'IA pour l'analyse de textes et l'aide aux agents publics.

• L'IA peut aussi être utilisée pour améliorer la qualité du service public, par exemple dans la protection du littoral avec le projet "Aigles" (DDT Hérault).

• Toutefois, le déploiement de l'IA dans le secteur public doit respecter les lois du service public (continuité, mutabilité, égalité), le principe de transparence et d'explicabilité, et la protection des données personnelles. "Même rendue par une IA, une décision publique individuelle doit pouvoir être expliquée."

• Parcoursup est un système d'IA classé "à haut risque" par l'AI Act, il devra être plus transparent. Les obligations de transparence et de redevabilité doivent être respectées.

• L'IA est un levier de développement des territoires, mais il est nécessaire de prendre en compte les inégalités face au numérique.

III. Préconisations

Le rapport formule plusieurs préconisations à destination despouvoirs publics, des entreprises, et des citoyens :

• Planification du développement de l'IA dans le respect des limites planétaires, avec une trajectoire de décarbonation spécifique à l'IA et un choix démocratique des usages du numérique en fonction de leur utilité sociale et de leur impact environnemental. Le CESE demande à "fixer une trajectoire de décarbonation spécifique à l’IA dans la prochaine stratégie nationale bas carbone".

• Utilisation de l'IA avec une énergie décarbonée, travail sur la gestion des ressources (eau, chaleur) et valorisation des bonnes pratiques d'usage. "Utiliser l’IA avec une énergie décarbonée".

• Généralisation de l'obligation d'émission d'un bilan environnemental de l'IA à l'échelle internationale. "généraliser l’obligation d’émission d’un bilan environnemental de l’IA à l’échelle internationale".

• Intégration de critères environnementaux et sociaux dans la commande publique.

• Instauration d'une préférence communautaire pour les acteurs européens, notamment dans la commande publique.

• Mise en place d'un référentiel pour l'évaluation de l'impact environnemental de l'IA et valorisation de l'IA frugale.

• Financement de la recherche fondamentale et appliquée dans l'IA.

• Déploiement d'appels à projets favorisant la collaboration entre différents acteurs.

• Création de grandes infrastructures stratégiques (supercalculateurs, cloud européen) et soutien des modèles d'IA open source.

• Utilisation du droit de la concurrence pour contrôler les comportements abusifs et permettre l'émergence d'opérateurs de taille modeste.

• Formation et rétention des talents dans le domaine de l'IA.

• Mesure de l'impact environnemental de l'IA dans les entreprises et services publics.

• Application des obligations de transparence, de redevabilité et d'explicabilité dans les services publics utilisant l'IA.

• Adaptation et renforcement des compétences à acquérir à l'ère de l'IA.

• Amélioration de la qualité du service public et des conditions de travail avec le déploiement de l'IA.

• Prise en compte des enjeux de l'éloignement numérique pour ne pas aggraver les inégalités territoriales.

IV. Diversité des Points de Vue et Conclusion

L'avis du CESE a suscité diverses réactions, qui mettent en lumière la complexité des enjeux liés à l'IA.

• Les organisations syndicales (CGT, FO) soulignent l'importance de la société civile pour mieux comprendre l'IA, ses limites et ses risques. Elles appellent à la régulation de l'IA, à la protection des données personnelles, et à la lutte contre la désinformation. La CGT-FO considère que "l’IA s’inscrit dans des choix politiques et qu’elle est avant tout une production humaine soumise aux subjectivités de ses choix".

• Les organisations d'entreprises reconnaissent le potentiel de l'IA en matière de progrès, mais mettent en avant la nécessité de légiférer pour soutenir les organisations européennes, favoriser l'innovation et la recherche, tout en assurant un équilibre avec la régulation.

• Les groupes Environnement et nature estiment que l'avis n'a pas suffisamment pris en compte les risques pour la démocratie, les libertés, et l'environnement. Ils regrettent que l'avis n'ait pas pris la mesure de ces défis.

• Les représentants des Familles mettent en avant la nécessité de fixer des limites à l'IA, notamment en matière de protection des données et de biais.

• Les Non-Inscrits soulignent la nécessité de réguler les géants économiques de l'IA et reconnaissent son potentiel dans le domaine médical.

• Les organisations étudiantes et de jeunesse posent la question de la place de l'IA dans nos vies et appellent à une réflexion approfondie sur ce sujet.

• Les Outre-Mer regrettent que l'avis n'ait pas suffisamment traité l'IA comme un vecteur de développement durable et d'attractivité des territoires.

• L'UNSA insiste sur la nécessité de poser, d'expliciter les intentions, les objectifs liés à l'IA afin de définir un chemin commun qui respecte les valeurs de notre société, tout en garantissant une "juste répartition des besoins pour éviter des conflits d’usages".

• Les citoyens tirés au sort ont exprimé diverses préoccupations, notamment en matière d'écologie et d'éthique. Certains craignent que le développement de l'IA ne se fasse que pour des raisons commerciales. Ils insistent sur l'importance de l'information et de la formation sur l'IA.

  • Lucas estime que "la question la plus importante aujourd’hui est : comment doit-on faire de l’IA ?" et appelle à ne pas se "tirer une balle dans le pied".

  • Maud souligne que "le développement de l’IA ne se fasse que pour des raisons commerciales" et qu'elle ne voit "que des aspects dégradant l'être humain".

  • Saïd K. considère que "La formation et l’éducation sont la base de tout" et que la régulation permettra de "maitriser l'IA dans l'intérêt de la société".

  • Habiba insiste sur la nécessité d' "approfondir la transparence, et l'information auprès des citoyens" sur les aspects tels que les data centers et que les "politiques s’investissent".

  • Enfin, une partie dédiée est consacrée aux enjeux de genre liés à l'IA et la nécessité de lutter contre les biais et la reproduction des stéréotypes dans le développement et l'utilisation de cette technologie. Il est souligné que l'IA s'inscrit "dans la société inégalitaire que nous connaissons, la reflète et produit des impacts en retour sur la carrière et la santé des femmes".