L’impératif de l’IA responsable : performance & éthique
L’Intelligence Artificielle (IA) ne cesse de s’imposer, transformant profondément le paysage professionnel et social. Elle est en passe de devenir un moteur central de compétitivité, offrant de nouvelles perspectives en matière d’automatisation et d’innovation.
Toutefois, cette adoption fulgurante soulève des questions fondamentales en matière de gouvernance, de transparence, d’éthique et d’impacts. L’approche d’IA Responsable (RAI) est un cadre essentiel qui vise à ancrer des valeurs humaines et écologiques dès la conception des systèmes d’IA.
Pour l’entrepreneur indépendant, adopter une IA responsable est une nécessité stratégique qui permet de minimiser les impacts négatifs sur les individus et l’environnement, mais aussi de renforcer la confiance des utilisateur et clients. Le non-respect des normes éthiques et légales, notamment celles de l’AI Act de l’Union Européenne en cours de déploiement, expose les organisations à des risques de biais systémiques, d’atteinte à la réputation, et à de futures amendes de conformité.
L’enjeu est donc de faire de l’IA non pas une option technique supplémentaire, mais un choix éthique pour une innovation durable et justifiée.
I. Qu’est-ce que l’IA générative ?
L’IA générative (Gen AI) est une technologie permettant de produire du contenu de manière autonome (texte, images, code, sons, ou vidéos) à partir de simples instructions formulées en langage naturel, appelées prompts.
Ces outils, dont les exemples les plus connus sont ChatGPT, Gemini ou DALL·E, fonctionnent en analysant de vastes ensembles de données (corpus) afin d’identifier des schémas statistiques. Le processus de « pré-entraînement » de ces modèles consiste à prédire le token (morceau de texte) suivant. L’IA génère ensuite le contenu le plus probable en fonction de la requête.
Il est crucial de comprendre que, contrairement à l’intelligence humaine, l’IA générative ne comprend pas le sens des informations qu’elle produit. Elle fonctionne uniquement sur la base de corrélations statistiques observées dans les données d’entraînement.
II. Comprendre les limites et les risques de l’IA générative
L’utilisation de l’IA générative comporte plusieurs limites et risques qu’il est indispensable de maîtriser pour une utilisation responsable.
1. Production d’informations inexactes ou trompeuses
Les modèles d’IA générative produisent du contenu basé sur des probabilités et non sur une compréhension factuelle. Les données d’entraînement peuvent contenir des biais, des erreurs ou des lacunes, ce qui conduit l’IA à générer des informations fausses, incomplètes ou déformées.
Ce phénomène est appelé « hallucination ». L’IA peut inventer des faits, citer de fausses sources ou des ouvrages imaginaires, rendant le contenu d’apparence plausible, mais factuellement incorrect. La qualité des réponses peut être instable et ne pas s’améliorer d’une version à l’autre.
2. Risque de divulgation de données internes et sensibles
Lorsque vous interagissez avec un outil d’IA générative, les informations (texte, documents, images) saisies sont souvent transmises aux serveurs du fournisseur.
Ces données peuvent être stockées, analysées et potentiellement utilisées pour entraîner les futurs modèles de l’opérateur. C’est le cas de tous les accès gratuits, sauf exception (Synthesia ou NotebookLM par exemple).
Cela pose un risque important de confidentialité et de fuite d’informations, surtout si l’outil n’est pas hébergé dans un environnement sécurisé et conforme au Règlement Général sur la Protection des Données (RGPD). Par défaut, même les requêtes et évaluations des utilisateurs sont enregistrées pour réentraîner les modèles.
3. Sources non identifiées et risques en matière de propriété intellectuelle
L’IA générative crée du contenu en s’appuyant sur d’immenses bases de données, mais sans généralement citer ses sources et données d’entrainement.
Les modèles d’IA peuvent être entraînés sur des contenus protégés par le droit d’auteur sans autorisation explicite, ce qui expose l’utilisateur qui diffuse ou commercialise le contenu généré à des risques juridiques. Des études ont montré que des modèles comme GPT-4 peuvent reproduire des phrases textuelles mot pour mot à partir de livres soumis au droit d’auteur. Les fournisseurs de modèles d’IA à usage général sont d’ailleurs soumis à des obligations de diligence spécifiques incluant le respect des droits d’auteur et la mise à disposition d’un résumé de la base d’apprentissage.
4. Variabilité et manque de cohérence des réponses
Les systèmes d’IA générative intègrent un certain degré d’aléatoire dans leurs réponses pour les rendre plus créatives. Par conséquent, ils ne fournissent pas toujours la même réponse à une requête identique. Cette variabilité, combinée à une qualité potentiellement instable, rend nécessaire de ne pas se fier à une seule réponse.
5. Impact environnemental
L’IA est un « amplificateur des enjeux énergétiques et environnementaux ». Son fonctionnement nécessite une puissance de calcul massive, entraînant une consommation importante d’électricité et d’eau (pour le refroidissement des serveurs). Cette consommation provient principalement des centres de données (data centers) qui alimentent le traitement des données et l’exécution des algorithmes.
- Chiffrage des impacts :
- L’entraînement de modèles lourds comme GPT-3 aurait consommé environ 1 287 MWh d’électricité, générant 552 tonnes d’équivalent CO₂. Soit l’impact moyen de 55 français (10 tonnes/an).
- Chaque requête adressée à une IA générative peut produire quelques grammes de CO₂. Une requête simple à ChatGPT a été estimée à environ 0,382 gramme de CO₂ et consomme 2,9 Wh d’électricité, soit près de dix fois plus qu’une recherche Google classique (0,3 Wh).
- La nécessité de refroidir les centres de données exige d’importantes quantités d’eau. La demande mondiale en eau pour l’IA pourrait atteindre 4,2 à 6,6 milliards de mètres cubes d’ici 2027.
- Comparatif avec le travail humain :
- Des analyses suggèrent que, pour les tâches spécifiques de création de contenu (texte ou illustration), les systèmes d’IA émettent entre 130 et 1500 fois moins de CO₂e par page que les rédacteurs humains*. Pour la création d’images, l’avantage environnemental de l’IA est estimé entre 310 et 2900 fois inférieur à celui d’un illustrateur humain.
- Il est cependant important de noter que ces analyses d’émissions ne tiennent pas compte des impacts sociaux ni des effets rebonds.
III. Bonnes pratiques pour un usage éthique et frugal de l’IA
Un usage responsable de l’IA nécessite d’appliquer les principes fondamentaux de l’IA de confiance, qui incluent la transparence, l’équité, la responsabilité et la sécurité.
1. 🔒 Protégez les informations sensibles
Pour éviter la divulgation de données internes et sensibles:
- Partagez uniquement des données génériques qui n’ont aucune valeur économique ou légale, ou qui sont déjà librement accessibles, pour votre activité ou vos clients.
- Utilisez des données anonymisées qui ne permettent pas l’identification d’un individu ou d’une organisation.
- Ne saisissez jamais de données confidentielles (informations stratégiques, financières, juridiques) dans l’outil d’IA, car ces contenus pourraient être stockés et exploités par des serveurs tiers.
- Si l’information ne peut pas être ou n’est pas diffusée publiquement, ne la soumettez pas à l’IA.
2. 🌍 Utilisez l’IA de manière raisonnée (l’approche frugale)
Chaque utilisation de l’IA a un coût énergétique. L’objectif est d’atteindre la sobriété fonctionnelle, qui consiste à remettre en question l’utilité réelle d’une requête avant de la modéliser.
- N’utilisez l’IA que lorsque l’outil apporte une réelle valeur ajoutée qui ne peut être obtenue facilement par d’autres moyens.
- Évitez d’utiliser l’IA pour des tâches simples (comme une recette ou une formule de calcul) qui pourraient être réalisées sans elle.
- Optimisez vos requêtes en étant précis, afin d’éviter des traitements inutiles et la multiplication des échanges avec le modèle.
3. 🔎 Vérifiez et recoupez les réponses (le contrôle humain)
L’IA est un outil d’aide, mais l’analyse humaine reste indispensable.
- Ne vous fiez pas aveuglément aux résultats et vérifiez systématiquement les faits auprès de sources fiables.
- Soyez attentif aux biais potentiels ou aux approximations et recoupez les informations obtenues auprès de plusieurs sources.
- Assurez-vous qu’une supervision humaine adéquate est maintenue et appliquez un regard critique pour vérifier les sorties de l’IA, plutôt que de les accepter au pied de la lettre.
4. Évaluez vos impacts
Afin de garantir une utilisation écologiquement responsable, il est recommandé de mener une évaluation du bénéfice énergie-carbone net pour chaque usage de l’IA.
- Si l’impact carbone généré par l’IA est supérieur au gain réel ou si l’option est jugée non-essentielle, elle devrait être abandonnée ou remplacée par une solution « hors IA ».
- Pour anticiper les impacts environnementaux d’un projet, il est possible d’utiliser des outils d’estimation de la consommation avant l’entraînement ou le déploiement du modèle.
- Dans le cas de la création de contenu (texte ou image), même si l’IA peut se montrer plus efficace en carbone que le travail humain, il est nécessaire de s’interroger sur la pertinence et l’utilité réelle de la production pour éviter la création de contenu superflu, qui aggrave la consommation des ressources numériques.
IV. Les zones rouges : quand éviter l’IA générative ?
Dans certaines situations, les risques éthiques, juridiques ou environnementaux sont trop élevés, et l’usage de l’IA générative doit être évité.
1. 🚫 Lorsque des données personnelles sont en jeu
Il est strictement interdit d’utiliser l’IA générative pour traiter ou stocker des données personnelles (noms, adresses, emails, numéros de téléphone) ou des données sensibles (état de santé, opinions politiques) de clients, sociétaires ou collègues.
Cet usage est contraire au RGPD et à l’AI Act européen, qui complètent les règles de protection des données et peuvent entraîner des sanctions pénales et financières importantes.
2. 🚫 Pour des contenus confidentiels ou stratégiques
L’IA générative ne garantit pas la confidentialité des informations qui lui sont transmises. Évitez tout usage concernant :
- Des échanges soumis au secret des affaires.
- Des informations financières ou légales critiques ou stratégiques.
3. 🚫 En cas d’incertitude sur le respect du droit d’auteur
L’IA est souvent entraînée sur des bases de données aux sources non vérifiables.
- Évitez de créer des images, textes ou musiques destinés à un usage commercial qui imitent des créations.
- Si vous utilisez un contenu généré par l’IA, vous devez vous assurer qu’il est libre de droits.
4. 🚫 Pour des prises de décision critiques
L’IA ne doit pas être la seule base de décision dans des domaines où l’exactitude, la véracité et la responsabilité sont essentielles, tels que :
- Les décisions ayant un impact juridique, financier ou éthique.
- Les situations où une erreur (hallucination) pourrait avoir des conséquences graves (ex. : diagnostics, gestion de crise). L’analyse humaine doit toujours être l’instance finale de validation.
5. 🚫 En cas d’impact environnemental injustifié ou défavorable
Ne recourez pas à l’IA générative pour des tâches qui consomment inutilement des ressources. Le principe de sobriété est fondamental : si l’analyse d’impact (même sommaire) indique que l’usage n’est pas essentiel ou que le bilan énergie-carbone net est injustifié ou défavorable, l’outil doit être écarté.
Ici, nous partageons des conseils pour des outils qui rendent plus pertinent, et qui font gagner du temps que nous vous invitons à passer à méditer ou à marcher dans la nature 😉
* »The carbon emissions of writing and illustrating are lower for AI than for humans » B. Tomlinson | University of California – 2024