Espace client
Intelligence Artificielle, Actualités, Confidentialité, Data Science

Bâtir un avenir avec l’intelligence artificielle en Europe (2 / 2)

La Déclaration Européenne, constituée par la Commission Européenne en juin 2018, vise à promouvoir une intelligence artificielle digne de confiance pour l’Europe dans le respect de 3 valeurs fondatrices qui sont les droits fondamentaux, la démocratie et l’état de droit. Elle présente trois caractéristiques qui doivent idéalement fonctionner ensemble tout au long du cycle de vie du système qui sont les suivantes :

  1. Elle doit être licite, en assurant le respect des législations et réglementations applicables.
  2. Elle doit être éthique, en assurant l’adhésion à des principes et valeurs éthiques; (garantit une conformité avec les normes éthiques, y compris les droits fondamentaux en tant que droits moraux spéciaux, les principes éthiques et les valeurs essentielles qui s’y rapportent.) 
  3. Elle doit être robuste, sur le plan tant technique (adaptation à un contexte donné, tel que le domaine d’application ou la phase du cycle de vie) que social (le système d’IA tient dûment compte du contexte et de l’environnement dans lesquels il fonctionne) car, même avec de bonnes intentions, les systèmes d’intelligence artificielle peuvent causer des préjudices involontaires.

Si des tensions naissaient entre ces trois caractéristiques, la société devrait remédier à ces problématiques.

Comment développer le futur de l'intelligence artificielle en Europe ?
Comment développer le futur de l’intelligence artificielle en Europe ?

Cette présente déclaration vise à développer des systèmes qui respectent l’autonomie humaine, qui préviennent de toute atteinte, et applicabilité. Elle repose ainsi sur des principes similaires à la Déclaration de Montréal en accordant une attention particulière aux situations d’inégalité. Elle encourage également la formation, l’éducation, l’innovation, la réflexion et la discussion sur l’éthique et les systèmes d’Intelligence Artificielle.

Elle tend également à montrer les avantages et les risques de l’intelligence artificielle. Ainsi, la déclaration présente 7 concepts que ces systèmes doivent impérativement respecter pour répondre à une intelligence artificielle digne de confiance.

Les concepts sont exposés ci dessous ont amené les auteurs de cette Déclaration à réfléchir notamment sur les questions suivantes :

1. Action humaine et contrôle humain

(les droits fondamentaux)
Le système d’IA renforce-t-il ou augmente-t-il les capacités humaines ?

2. Robustesse technique et sécurité

(la résilience aux attaques et la sécurité, les plans de secours et la sécurité générale, la précision, la fiabilité et la reproductibilité)
Avez-vous réfléchi à l’incidence potentielle ou au risque en matière de sécurité sur l’environnement ou les animaux ?

3. Respect de la vie privée et gouvernance des données

(le respect de la qualité et l’intégrité des données et l’accès aux données)
Avez-vous pris des mesures pour renforcer le respect de la vie privée ?

4. Transparence

(la traçabilité, l’explicabilité  et la communication)
Avez-vous évalué la mesure dans laquelle la décision du système influence les processus décisionnels de l’organisation ?

5. Diversité, non-discrimination et équité

(l’absence de biais injustes, l’accessibilité et la conception universelle, et la participation des parties prenantes)
Avez-vous réfléchi à la diversité et à la représentativité des utilisateurs dans les données ?

6. Bien-être sociétal et environnemental

(la durabilité et le respect de l’environnement, l’impact social, l’impact sur la société et la démocratie)
Avez-vous prévu des mesures pour réduire l’impact environnemental du cycle de vie de votre système d’IA ?

7. Responsabilité

(la réduction au minimum des incidences négatives et la communication à leur sujet, les arbitrages et les recours)
Avez-vous mis en place des cadres de formation et d’éducation pour définir des pratiques en matière de responsabilité ?

Ce document encourage l’Europe à se positionner comme foyer et leader mondial d’une technologie éthique et de pointe. L’IA digne de confiance permettra de respecter les droits de l’homme, la démocratie, l’état de droit. L’intelligence artificielle peut apporter des solutions durables concernant la qualité de vie, l’autonomie humaine et la liberté. Elle peut également contribuer à l’amélioration de la santé et dissoudre des inégalités. Néanmoins elle soulève malgré tout des préoccupations relatives au bien-être des individus, à leur prise de décision et leur sécurité. 

Bâtir un avenir avec l’intelligence artificielle en Europe (2 / 2) 1

Les systèmes d’IA doivent respecter, protéger et servir l’intégrité physique et mentale des individus en leur laissant leur identité personnelle et culturelle et en leur permettant d’avoir un contrôle absolu sur leurs choix et libertés. L’intelligence artificielle doit donc préserver la pluralité des individus ainsi que respecter leurs données personnelles. En effet, l’IA peut déduire les préférences d’une personne, son âge, sa classe sociale, son orientation sexuelle, sa religion et ses opinions politiques grâce à la numérisation des comportements humains. 

Il convient d’adhérer aux principes de respect de l’autonomie humaine, de prévention de toute atteinte, d’équité et d’explicabilité. En effet, les systèmes de l’IA ne doivent pas subordonner, contraindre, tromper, manipuler, conditionner ni régenter des êtres humains. Mais au contraire augmenter, compléter et favoriser les compétences sociales, cognitives et culturelles. Les processus doivent être transparents et ne doivent pas porter atteinte aux individus.

Les systèmes d’IA ne doivent pas influencer les individus mais les aider à faire des choix plus éclairés en rapport avec leurs objectifs. Ils ne doivent pas impacter les liens sociaux des humains.

Un futur label « IA digne de confiance » assurerait par référence à des normes techniques précises que le système est conforme en terme de sûreté, de robustesse technique et d’explicabilité ». Celui-ci encouragera fortement l’innovation, la communication, la formation et la communication afin de veiller à la diffusion des aspects positifs et négatifs de ces systèmes. Ces derniers pourront ainsi participer à l’orientation du développement de la société.

Enfin, une IA digne de confiance représente un grand potentiel pour contribuer à l’atténuation des problèmes auxquels notre société est confrontée (vieillissement de la population,accroissement des inégalités et de la pollution). Ainsi, ces systèmes pourraient participer durablement à la réduction de  l’incidence des humains sur l’environnement et permettre une utilisation et une consommation énergétiques plus efficaces. Par conséquent, l’IA permettra de réduire l’empreinte environnementale afin d’avoir une société plus verte.

Pour conclure, ces deux déclarations expliquent des principes essentiels qui doivent néanmoins faire l’objet d’une réflexion proactive et plus approfondie appliquée aux situations présentes et aux évolutions envisagées par notre société.


Pour retrouver la première partie de l’article, merci de vous référer à ce lien.

0 / 5 5
ESPACE CLIENT