Une IA éthique et responsable

Les enjeux que pose l’IA dépassent les frontières nationales et mobilisent l’ensemble des institutions patrimoniales à l’échelle mondiale. Dans ce cadre, la BnF coopère activement avec des partenaires internationaux, en particulier francophones, afin de promouvoir l’interopérabilité des jeux de données et de renforcer le rôle de la francophonie dans le développement d’une l’IA responsable et éthique.

La BnF s’engage dans des initiatives internationales telles que le consortium AI4LAM, dédiée à une approche éthique de l’IA dans les bibliothèques, archives et musées, dont elle est membre. Sur le plan européen, la BnF collabore avec la CENL (Conférence des bibliothèques nationales européennes), instance au sein de laquelle elle a été à l’initiative avec la British Library d’un travail d’élaboration d’une charte éthique commune aux bibliothèques nationales européennes.

Fidèle à son rôle de tiers de confiance, la BnF entend continuer à concilier protection des droits des créateurs et soutien à l’innovation. Concrètement, elle déploie une démarche éthique rigoureuse, inscrite dans sa politique de responsabilité sociétale des organisations (RSO) et qui s’applique à chacun de ses projets. Cette démarche répond à cinq grands principes :

  • Recourir à l’IA au service des missions et des professionnels de la BnF

La BnF s’engage dans l’IA au service de ses missions statutaires. L’IA peut notamment être un outil en matière de signalement, de préservation et de découvrabilité pour faire face à l’accroissement exponentiel de ses collections. Le développement d’outils d’IA peut apporter des solutions d’allégement des tâches répétitives et d’aide à la décision au quotidien. L’IA n’a pas vocation, ni d’ailleurs la capacité, à remplacer les compétences humaines mais uniquement à apporter une assistance aux professionnels dans la réalisation de leurs tâches. 

  • Veiller au respect des droits des personnes

La BnF doit être exemplaire en termes de respect du droit des données personnelles en appliquant le règlement général de protection des données (RGPD) en cas de recours aux données d’usage de ses lecteurs, données considérées comme sensibles et auxquelles elle n’applique pas actuellement de traitements d’IA. La BnF doit par ailleurs être, en tant que tiers de confiance des auteurs et éditeurs, exemplaire dans le respect du droit d’auteur et de la propriété intellectuelle. 

  • Lutter contre les biais et discriminations reproduits par les IA

La BnF a une responsabilité en termes de représentativité et de non-discrimination des données d’entraînement des IA, celles-ci pouvant reproduire les biais présents dans ces données. Par exemple, des corpus anciens peuvent refléter des représentations désuètes ou discriminantes, qui risquent d’être amplifiées. La BnF doit veiller à sélectionner des données diversifiées et représentatives puis à intégrer des mécanismes de correction des biais dans les modèles entraînés à partir de ces données. 

  • Contribuer au renforcement d’une IA de confiance

La BnF souhaite contribuer à la lutte contre l’opacité des modèles de langage et à la compréhension des décisions prises par les IA en veillant à leur transparence, explicabilité et auditabilité. Dans le cas de la production de données ou métadonnées, l’intervention d’IA dans le processus doit être documentée. La BnF souhaite pouvoir jouer un rôle pédagogique vis-à-vis de ses publics en la matière.

  • Réduire l’impact environnemental des IA

Les systèmes d’IA nécessitent des ressources considérables en énergie pour leur entraînement voire leur fonctionnement. Les bibliothèques doivent évaluer l’empreinte carbone de ces technologies et favoriser des solutions écoresponsables.