L'éthique des IA sera un sujet important des années à venir

L’éthique des Intelligences Artificielles, le défi des prochaines décennies

Face à l’augmentation du nombre des objets connectés et intelligents, le cabinet Gartner affirme que les DSI vont devoir s’adapter à cette nouvelle donne, notamment à cause des bouleversements en matière d’éthique et de sécurité.

Le DSI, pilier de la révolution numérique

25 milliards, c’est le nombre d’objets connectés et de machines intelligentes qui seront en fonctionnement d’ici à 2020, selon les chiffres du cabinet Gartner. Les DSI auront pour charge de maintenir la confiance des gens, élément devenu aujourd’hui incontournable pour les directions métiers. Les DSI devront être capables de superviser ces nouvelles technologies et de réagir face aux imprévus et problèmes informatiques, et de savoir gérer l’éthique des machines concernées. C’est à dire, leur degré d’autonomie, leurs responsabilités, et leur capacité de prise de décision.

Pour illustrer son propos, le cabinet Gartner a créé 5 niveaux de développement informatique, classés selon leur « impact éthique ».


Profitez de 2 To à vie de stockage en ligne avec pCloud


Les deux premiers niveaux (appelés laconiquement niveau 0 et niveau 1) désignent respectivement les programmes n’ayant pas ou peu de considération ou de responsabilité éthique.

Le niveau 0 désigne les vaporware , ces logiciels et programmes annoncés mais toujours retardés, pouvant sortir avec une décennie de retard. Dans leur cas, les fournisseurs n’assument quasiment jamais de responsabilité éthique.

Le niveau 1 désigne les projets avec une tentative de supervision éthique. En clair, le déploiement et l’usage du projet font l’objet d’un suivi dans le respect des normes en vigueur. Dans le cas des smart machines, c’est souvent les utilisateurs eux-mêmes qui en assument la responsabilité, c’est-à-dire que l’utilisation de cet objet ne dépend que d’eux : l’appareil n’a aucune autonomie.

Du contrôle strict à l’autonomie totale.

Les niveaux 2 et 3 englobent ce qu’on appelle les « programmes éthiques ». Par exemple, lorsque la responsabilité est partagée entre le créateur, le fournisseur et l’utilisateur d’une technologie, on est au niveau 2. L’assistant virtuel d’un smartphone entre dans cette catégorie de niveau 2. Au niveau 3, les objets concernés sont par exemple les voitures sans chauffeurs : ces dernières réalisent de manière autonome de nombreuses tâches importantes au nom et pour l’utilisateur. Un exemple de question à laquelle les DSI devront faire face : une machine intelligente doit-elle pouvoir accéder à la carte bancaire professionnelle d’un employé ? Peut-elle refuser un ordre pour prendre une décision qui lui semble la plus adaptée ?

Le dernier niveau désigne les machines les plus évoluées: les robots dotés d’une conscience, capables d’apprendre, réfléchir et raisonner. Un niveau jamais atteint aujourd’hui, mais qui devrait fatalement arriver dans les années à venir. Pour gérer des machines aussi intelligentes, il faudra nécessairement les éduquer. Une tâche capitale à ne pas sous-estimer, comme l’avait rappelé Stephen Hawking  il y a quelques mois, afin de ne pas créer d’Intelligence Artificielle néfaste à l’homme. Dans le même ordre d’idée, Frank Buytendijk avait dit « La question que nous devons nous poser est : comment ferons nous en sorte que les machines se tiennent à leurs responsabilités ? Les traiterons nous comme des animaux de compagnie ? Ou comme des enfants, que nous élèverons jusqu’à ce qu’elles soient capables de prendre leurs propres responsabilités ? « .

isaac asimov intelligence artificielle

Même si l’arrivée réaliste de machines intelligentes est récente, le terme de l’éthique de ces machines n’est pas neuf. Après tout, l’écrivain de science-fiction Isaac Asimov a bien créé les lois de la robotique… en 1942 !  Elles affirment que :

  1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
  2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
  3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi.

Ces trois lois font toujours partie des bases de la robotique et sont encore discutées, étudiées et débattues de nos jours. Au point de servir de base à la charte robotique de la Corée du Sud, désignant les lignes de conduite éthique sur les rôles et les fonctions respectifs des fabricants, utilisateurs, propriétaires et des robots eux-mêmes.

source

1 commentaire

  1. Bonjour, à propos de l’IA:

    Nuls Lois, ni règlements peuvent arriver à tous les coins et recoins de la Société. Seul notre Conscience peut le faire. C’est pourquoi la formation de la Conscience doit avoir, pour une Humanité qui prétend évoluer tout autant que sa technologie, la même importance que la formation de l’Intellectuel; Quand nous constatons que lorsque, autrefois, l’Ecole Eduquait, Socialisait et Instruisait, au lieu de simplement former, briser, mouler, courber et arche voûter les Enfants, dès leur plus jeune âge, à notre étrange logique Economique décadente, (qui nous a convaincu que nous vivons pour travailler, et qui nous a réduit à des consommateurs, des instruments de production et à des contribuables incarcérés lentement dans des murs, enceintes et grillages, et nous a pas, pour peu, exterminé écologiquement), comme ce à quoi l’École a été aujourd’hui réduit, l’Ecole formait mieux les Consciences… et lorsqu’on constate que nous n’avons même pas été capable de nous imprégner des 10 Commandements, qui suffisent à eux seuls à tous les Codes Pénales e Civils du monde, il serait important de réfléchir très profondément à ce que sont les Lois et la liberté, un Transhumanisme et une robotique calquée sur le, encore, côté sombre de l’Humanité, et à qui elles servent vraiment ! Comment une robotique

    L’être Humain est un animal social et a besoin du regard de l’autre, tout comme il respire, et son équilibre passe par une chose si simple que nous avons cessé de la comprendre et de la vivre : L’ETRE HUMAIN DOIT :AIMER, ETRE AIME ET S’AIMER SOIT MEME (AMOUR PROPRE), j’en suis si sûr que je soupçonne même que c’est ce que Jésus Christ, soit-il Fils de Dieu ou de l’Homme, a voulu, dans sa profonde sagesse Religieuse et Humaine, dire et enseigner aux Hommes en leur apprenant : « AU NOM DU PERE, DU FILS ET DU SAINT ESPRIT ».

    Avec l’abus de l’utilisation des nouvelles formes de communiquer, de socialiser et d’exister, nous évitons ainsi le véritable regard de l’autre et notre reflet dans les yeux des autres qui affecte fortement cet équilibre et nous expose beaucoup à l’état dépressif qui est un piège très dangereux et un trou très obscure et profond pour l’Être Humain.

    Ceci, sommé au manque de repères moraux (faute de beaucoup de choses, des formes actuelles de vivre… d’une Internet, AVEC UN ACCES DIRECTE À NOS VIES, (qui reflète de plus en plus le mal qui existe en nous…) PROJETTE NOS JEUNES DANS DES DESERTS AFFECTIFS, INTELLECTUELS ET MORAUX TRES DANGEREUX qui les rend très vulnérables et les/nous exposent fortement á cette LADRERIE ET CETTE PAUVRETE DE L’ESPRIT « BLING BLING ». Et à ce monde, déjà et actuelle, partiellement bati de Facebooks et Meetics, où partie de la Jeunesse cherche en un probable Paradis, en se comportant comme des Heros de GTA, ce qu’ils ne trouvent pas sur une possible Terre.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *