Table of Contents Table of Contents
Previous Page  15 / 17 Next Page
Information
Show Menu
Previous Page 15 / 17 Next Page
Page Background

Mai 2019

39

AGEFI Luxembourg

Informatique / Télécoms

Par Richard SOCHER, Chief Scientist chez Salesforce

L

es progrès technologiques s'accompa-

gnent toujours d'appréhensions et

d'incertitudes. Depuis la révolution

industrielle, les gens sont aux prises avec

l'impact des nouvelles technologies sur leur

travail et leur vie. Aujourd'hui, lamême

angoisse refait surface, cette fois dans le

sillage de chaque bond en avant accompli

par l'intelligence artificielle (IA).

Malgré les formidables progrès enregistrés par les

chercheurs cesdernièresannées, l'IAn'enest encore

qu'à ses premiers balbutiements avec, à la clé, son

cortège d'incertitudes, de malentendus et d'inquié-

tudes.ElonMusk,quisepositionneencritiqueviru-

lent de l'IA, abuse de cesmalentendus afinde créer

l'image funeste d'une apocalypse de l'IA, tout en

intégrant des algorithmes IApuissants et sophisti-

qués dans ses voitures Tesla. Ce «grand écart»

montresurtoutàquelpointnoussommestouscap-

tifs d'un cycle de battage inutile et dangereux.

Nous devons surmonter cette peur irrationnelle

pour prendrepieddans la réalité : il n'existe aujour-

d'hui aucune recherche crédible validant les scéna-

rios fatalistes brodés autour de l'IA. Certes, il s'agit

évidemmentd'unefictionpassionnante.Àl'époque,

j'ai adoré Terminator, tout comme de nombreux

autres enfants de mon âge. Ce genre de film a de

quoi fasciner, mais dans le monde réel, la crainte

irrationnelle de l'apocalypse nous empêche d'ap-

préhender correctement les véritables menaces

posées par l'IA. Ses principaux problèmes relèvent

des préjugés et de la diversité. Ils sont bien plus

humains et urgents que la peur de la singularité ou

d'une révolte des robots. L'IAest confrontée, d'une

part, à des données d'apprentissage empreintes de

préjugés et, d'autre part, à unmanque de diversité

dans le cadre de la recherche.

Enformantlesintelligencesartificiellesaumoyende

données biaisées, nous injectons – délibérément ou

non – notre propre partialité dans les algorithmes.

Nous réalisons ainsi tranquillement une IAqui va

avantager lesunsaudétrimentdesautres.Àdéfaut

d'une diversification dans le secteur, certaines per-

sonnes exerceront une influence considérable sur

lesdécisionsinvisiblesmenantàlacréationd'uneIA.

L'impact potentiel de l'IAsur laviequotidiennedes

gens ne cesse en outre de croître depuis qu'on

l'intègre, entre autres, dans les procédures de recru-

tement,lesdemandesdeprêtsetlesdécisionsmédi-

cales.Nousdevonsveilleràcequel'IAn'adoptepas

nos caractéristiques les plusmalsaines.

Les données innocentes, ça n'existe pas

L'IA entretient des contacts de plus en plus étroits

avec des systèmes humains essentiels, et nous ne

pouvons pas oublier que la technologie ne fonc-

tionne pas dans un vide. Elle a besoin d'énormes

quantités de données, qui sont analysées par de

puissants algorithmes afin d'en distiller des pers-

pectives révélatrices.Une IAn'estdonc jamaisaussi

bonneque lesdonnéesd'apprentissagequ'ellepeut

traiter. Si ces données sont empreintes de préjugés

(langagesexisteouraciste,parexemple),lesrésultats

en seront pour ainsi dire infectés. L'apprentissage

d'une IA est en outre renforcé quand l'algorithme

répète des milliers ou des millions de fois certaines

décisions. C'est ainsi que des préjugés initialement

dissimulésdanslesdonnéesrejaillissentsubitement

à la surface. Contrairement à une révolution des

robots,l'IAbiaiséen'estpasunrisquehypothétique.

Une IA empreinte de stéréotypes et présidant un

concours de beauté choisissait systématiquement

desparticipantesblanches,tandisqu'unalgorithme

de Google classait des visages noirs en tant que

gorilles. Et dans le cadre d'une étude, une IAasso-

ciaitlesnomsmasculinsàl'ambitiondecarrière,aux

mathématiques et à la science. Les noms féminins,

quant à eux, allaient de pair avec l'art. Tout comme

nosclicsnousmaintiennentdansnospropresbulles

Facebook, les donnéesmâtinées de préjugés indui-

sent l'IAà accentuer les partis pris humains.

Nous ne pouvons pas déléguer à l'IAla responsa-

bilité de nos décisions. Si nous comptons faire

davantage appel à l'intelligence artificielle pour

prendrenosdécisions, nousdevons toutmettre en

œuvre pour être certains d'utiliser les systèmes

avec discernement. Et pour ce faire, un premier

pas consiste à accroître la transparence du proces-

sus de collecte de données. D'où viennent les

données ? Qui les a rassemblées ? Et comment ?

Nousdevons également reconsidérernosmodèles

et clarifier leur fonctionnement. Nous pourrons

ainsi déceler des préjugés qui nous avaient peut-

être initialement échappé. Si nousparvenons à trai-

ter le problème en profondeur, l'IAsera bien plus

susceptible de nous aider à créer un monde

meilleur. Peut-être est-il impossible de balayer les

préjugés humains de la surface du monde, mais

nouspouvons faireensortequenos IAaientmoins

de préjugés que leurs développeurs.

Bien que les préjugés humains soient à l'origine de

cette problématique, l'intelligence humaine peut la

résoudre. Ainsi, par exemple, les algorithmes sont

de plus en plus efficaces pour la détection de «fake

news» et de discriminations, même si un contrôle

humaindemeure évidemment indispensable pour

améliorerleurqualité.Quandonparledel'évolution

dumarché du travail et de l'influence qu'exercerait

l'IAsur ceplan, jevoisd'ailleursunnouveaumétier

seprofileràl'horizon:l'«AI-Monitor».Nousaurons

en effet toujours besoin d'un contrôle humain sur

l'input et l'output de l'IA.

L'IA: unproblème humain

Cette réflexion nous amène au second obstacle à la

créationd'uneIAsanspréjugés:ilfautdavantagede

diversité parmi les chercheurs et développeurs qui

élaborent les systèmes. De nombreuses études ont

déjà fait ressortir un sérieux déséquilibre. D'après

code.org,lesNoirsetlesLatino-Américainssontnet-

tement sous-représentés dans le secteur. Une repré-

sentationmoinsimportantevagénéralementdepair

avec un accès plus limité, non seulement dans les

écolesmaisaussidanslesentreprisesetlesinstances

publiques.Nousdevonsveiller activement à ceque

chacun bénéficie d'un même accès aux nouvelles

technologies lorsqu'elles font leur entrée dans la

société.Heureusement, l'IApeut aussi nous y aider.

Ainsi, l'IAnous permet de réaliser des kits d'outils

pourdéveloppeurstoujoursplusintuitifset,partant,

d'améliorer l'accès à partir des milieux scolaires, de

sorteque l'IAatteigneautomatiquementdavantage

de personnes. L'octroi d'opportunités d'apprentis-

sage à un large groupe de gens entraînera automa-

tiquement une diversification du secteur. Cette

diversité nous aidera, à son tour, à purger l'IAdes

préjugésquipourraientéventuellementnouséchap-

per à caused'uneperspectiveunilatérale.

L'avenir commence aujourd'hui

Nous devons relever ces défis de toute urgence :

l'avenir est déjà au pas de nos portes. L'IAest peut-

être bien l'outil le plus sophistiqué que nous ayons

jamais conçu. Mais à l'instar d'un marteau, il peut

être utilisé à bon ou àmauvais escient. Moyennant

un contrôle efficace par nos scientifiques et diri-

geants politiques, l'IA peut rendre le monde

meilleur. Il peut automatiser la production et le

transportd'aliments,personnaliserlessoinsdesanté

etoffriràchacunl'opportunitéd'êtreplusproductif,

quels que soient son expérience ou son bagage. La

réalisationd'unemeilleure IAest donc directement

proportionnelle à la poursuite d'une vie meilleure

pourtous.Créerdesversionsamélioréesetpluseffi-

caces de nous-mêmes : telle est la promesse de l'IA.

La technologienouspermetdenous concentrer sur

les tâches créatives et empreintes de sens. Même

aujourd'hui,autraversdesespremierspas,ellenous

aide en reflétant notre image.

Les problèmes de l'intelligence artificielle : beaucoup de préjugés