Interview : faut-il avoir peur de l’intelligence artificielle ?

 

Aurélie Jean
L’intelligence artificielle va-t-elle définitivement supplanter l’humain, se demande Aurélie Jean dans sa dernière chronique au Point ? En quoi les algorithmes d’aujourd’hui sont-ils différents des logiciels de l’informatique du siècle dernier ?
L’intelligence artificielle, c’est faire résoudre des problèmes par des ordinateurs. Pour cela, il faut d’abord créer un modèle sous forme mathématique. C’est ce qu’on appelle un algorithme. J’ai beau être une «  matheuse  », la calculatrice ira toujours plus vite que les opérations que je peux faire à la main. Je crée donc des algorithmes pour aller plus vite, être plus efficace. La grande différence entre Deep Blue, l’ordinateur d’IBM qui avait battu Garry Kasparov aux échecs et AlphaGo, la nouvelle championne du jeu de go conçue par Google, c’est que la machine a atteint son niveau en jouant d’abord contre elle-même avant de battre un humain. On fixe les règles de base au départ, et l’intelligence artificielle est ensuite capable «  d’apprendre  » toute seule en jouant une multitude de combinaisons contre elle-même. Cette notion de deep learning est déjà ancienne. On distingue deux niveaux d’intelligence artificielle  : la faible et la forte. Dans les modèles les plus évolués, la machine serait capable d’apprendre sans intervention humaine. Elle aurait en quelque sorte «  conscience  » de son existence. On cherche même à la doter d’une intelligence émotive. En réalité, aucune machine n’éprouvera jamais de sentiments, selon moi. Mais elle peut en exprimer, si elle a été programmée pour le faire.
Construire une machine capable de battre des champions de go ou d’échec, c’est une performance qui peut frapper les esprits, mais qui ne porte guère à conséquences. Que penser en revanche d’un programme qui remplacerait les pilotes dans un avion, ou qui prendrait le volant à notre place à bord des voitures autonomes annoncées dans un futur proche  ?
Techniquement, on sait déjà faire beaucoup de choses. On a des «  pilotes automatiques  » à bord des avions ou des métros. Mais l’exemple de la voiture autonome est intéressant, parce que même si elle marche déjà à 90%, ce sont les 10% qui restent qui posent problème. On n’a pas le droit à l’erreur. Je ne suis pas une spécialiste des transports automatiques, mais il me semble que le challenge n’est pas seulement technique. On voit bien que la question est aussi d’ordre éthique. L’IA qui pilote une voiture autonome doit-elle privilégier la sécurité des personnes à bord, ou le piéton qui traverse devant elle  ? La réponse ne peut pas venir uniquement des programmeurs. Le public doit lui aussi pouvoir donner son avis. Je plaide également pour que les scientifiques se rapprochent des parlementaires afin de co-construire la réglementation de demain. Il ne faudrait pas qu’une loi freine l’innovation ou protège faussement la population, voire qui contient des vides technologiques.
On met souvent les erreurs humaines en cause dans les accidents, mais un ordinateur aussi, ça peut «  planter  »…
Quand il y a un bug, il y a deux raisons possibles  : soit c’est que le programme a été mal codé, soit c’est qu’il rencontre un cas non pris en compte au départ. C’est ce qu’on appelle un «  biais  » de programmation. Je prends souvent l’exemple des premiers logiciels de reconnaissance faciale qui n’étaient pas capables de fonctionner correctement avec des personnes noires, simplement parce que les programmateurs étaient blancs. Dans les deux cas, il s’agit de failles humaines. Un logiciel ne peut pas être «  raciste  », ou sexiste comme cela a été dénoncé récemment dans le cas d’un programme d’IA chargé de sélectionner les CV chez Amazon. Je le dis d’autant plus ouvertement alors que je milite personnellement pour davantage d’égalité des sexes dans le monde professionnel. Ce n’est pas le programme qu’il faut incriminer. Il faut au contraire s’attacher à comprendre comment il a été écrit pour pouvoir le corriger, l’améliorer. Cela étant dit, il faut bien reconnaître que si tout le monde vise le «  zéro bug  », il y en aura toujours. Je ne vois pas comment les éviter, mais on peut faire en sorte de les repérer avant qu’ils ne fassent des dégâts. La plupart des outils informatiques que vous utilisez comportent des bugs, mais ils sont supprimés au fur et à mesures des nouvelles versions mises à jour. Quand je travaillais chez Bloomberg, on commençait à tester les nouveaux programmes parmi les 5.000 collaborateurs en interne avant des les diffuser à l’extérieur pour minimiser les risques. L’important, c’est de réagir vite.
La vitesse, cela peut aussi faire peur en cas de crash. Le grand public a pu être choqué d’apprendre que des machines réalisaient des transactions boursières à la place des traders lors de la crise de 2008…
C’est vrai que le trading haute-fréquence est automatisé. Mais cela peut-être intéressant sur des marchés qui fluctuent trop, en permettant au contraire de ré-équilibrer les échanges. Je pense même que les algorithmes peuvent prévenir les crises, même si cela n’a jamais été démontré. On peut désormais faire des prédictions grâce à l’IA, mais à la fin c’est l’humain qui décide. Tant que l’IA ne sert pas à faire de la spéculation financière, son utilisation dans le milieu bancaire et boursier ne me choque pas.
La vitesse et la puissance de calcul ne sont-elles pas en train de marquer le pas face à la montée en puissance de la data, véritable «  carburant  » de l’économie numérique  ?
Effectivement, nous générons toujours plus de données que ce que nous sommes capables d’analyser. C’était l’une de mes grandes frustrations quand j’étais en thèse  : je générais davantage de data que ce je pouvais traiter. Même si on accédait demain à des puissances de calcul encore plus puissantes que celles dont nous disposons, avec par exemple des «  ordinateurs quantiques  », on doit faire face à une croissance exponentielle des facteurs à traiter. La moralité que j’en tire, c’est qu’il faut toujours garder un œil critique sur ce qu’on fait.
La société aussi peut parfois être critique, voire effrayée par un avenir toujours plus «  connecté  » qui évoluerait vers une société de surveillance généralisée, façon cauchemar d’Orwell
Oui, les gens qui expriment ces craintes ont raison. Comme toute innovation, l’IA peut conduire à de bonnes ou de mauvaises utilisations. C’est comme le nucléaire, qui a conduit à la bombe atomique mais aussi à développer des thérapies contre le cancer. Il faut se garder de tout rejet épidermique. Développer l’esprit critique est une bonne chose. Chaque innovation peut provoquer à la fois la peur et la fascination. Mais je sens monter une méfiance envers la science qui m’attriste. Un scientifique digne de ce nom n’a pas à mon sens à être technophile ou technolâtre, il doit juste être techno-réaliste. Je constate qu’il est souvent plus facile de vendre des peurs que des rêves. Comme je me refuse à le faire, mes réponses sont souvent décevantes pour le grand public qui s’attend à une présentation dramatique.

Les « sulfateuses à PV » attendront les élections

lapi

Les automobilistes qui « oublient » de passer à l’horodateur ont gagné un peu de répit. Les voitures LAPI (lecture automatique des plaques d’immatriculation) devront attendre le prochain scrutin municipal de 2020 avant d’être déployées à Toulouse. Olivier Arsac, l’adjoint au maire chargé de la police municipale, avait pourtant annoncé l’arrivée d’une dizaine de ces véhicules bardés de caméras dès la rentrée 2018. L’élu se disait très satisfait du « test à blanc » réalisé en 2017 dans les rues de la ville rose. Les voitures LAPI permettraient selon lui de contrôler toutes les rues de la ville deux fois par jour. Un énorme gain de productivité par-rapport aux agents de surveillance de la voie publique (ASVP) qui travaillent à pied. « Il leur faut trois jours pour faire le tour des rues à stationnement payant », reconnaît Olivier Arsac.

Toulouse se distingue par un effectif particulièrement faible en ASVP : une quarantaine seulement, contre près de 80 à Bordeaux et plus de 180 à Nice. La chambre régionale des comptes, qui a épinglé la politique de stationnement de la ville dans un rapport publié en 2016, se demandait même si ce déficit de de contrôles ne pouvait pas expliquer le faible remplissage des parkings souterrains, à moitié vides pour la plupart. Olivier Arsac répond que l’explication est purement conjoncturelle : plusieurs ASVP ont rejoint les rangs de la police municipale, dont les effectifs ont été doublés. Une douzaine de recrutement ont eu lieu en 2017, et autant seront embauchés cette année. Mais les voitures LAPI, qualifiées de « sulfateuses à PV » par une association de défense des automobilistes, attendront les résultats des tests en vraie grandeur menés dans d’autres villes de France.

Jean-Luc Moudenc, maire de Toulouse et président de France Urbaine, qui regroupe toutes les grandes métropoles, préfère rester prudent sur le sujet. Il a demandé à l’une de ses adjointes, sénatrice, d’interpeller le ministre de l’Intérieur sur la légalité de cette technologie. La CNIL (commission nationale informatique et libertés) a en effet longtemps mis son véto à l’utilisation des voitures LAPI, déjà utilisées par la police et la gendarmerie pour rechercher des voitures volées, par les communes. La commission a finalement assoupli sa position. Elle se contente de formuler des « recommandations » aux collectivités, de plus en plus nombreuses, qui font appel aux voitures LAPI. Elles peuvent les acheter (110.000 €) ou les louer (4.000€/mois) à AFS2R, une entreprise de Lyon leader sur le marché. Gérard Colomb, lui, n’a jamais répondu à la question de la sénatrice Brigitte Micouleau.

Les réticences du maire de Toulouse ont été renforcées par les « couacs » dénoncés dans la presse au début de l’année sur le travail des agents de Streeteo, l’une des deux sociétés à qui la ville de Paris a délégué le contrôle du stationnement. A Paris, Streeteo utilise des voitures LAPI pour faire un « pré-contrôle » des rues, avant de déployer des agents au sol pour verbaliser. « On ne veut pas ce genre de gadget », réagit Olivier Arsac. Streeteo est une filiale du groupe Indigo (ex-Vinci Park), à qui la ville de Toulouse a confié la gestion de la plupart de ses parkings souterrains. Pas question de donner le contrôle des horodateurs à la même société, assure-t-on au Capitole, qui écarte toute « privatisation » du service. Jean-Luc Moudenc observe avec intérêt Anne Hidalgo aux prises avec les automobilistes dans la capitale. Si Paris vaut bien une messe, Toulouse ne vaut pas un PV. Ils sont passés de 16 à 30€ le 1er janvier. Loin derrière Paris (35 à 50€) ou Lyon (35 à 60€).

Micronutris  : manger des insectes pour sauver la planète

Micronutris Auriol

Un simple hangar de 600 m2 dans une zone artisanale de Saint-Orens-de-Gameville. C’est ici que Cédric Auriol a implanté sa société, Micronutris, première « ferme  » d’insectes comestibles en France. Diplômé de la Toulouse Business School, il s’est lancé dans ce sillon novateur à la lecture d’un rapport de la FAO qui préconise de développer l’entomophagie pour nourrir la planète. « Les insectes comestibles constituent une alternative prometteuse à la production conventionnelle de viande », estime l’agence spécialisée de l’ONU pour l’alimentation dans un rapport publié en 2013. Mais le rapport constate aussi le manque de données scientifiques sur la meilleure façon de conduire l’élevage des insectes et pour garantir leur innocuité pour la santé humaine. Cédric a donc recruté Maylis Radonde, jeune diplômée de l’Ecole supérieure d’agriculture de Purpan.

Bio pour éviter les insecticides

Ancienne présidente de la Junior Entreprise de Purpan, la jeune femme a organisé la production de Micronutris avec des règles très strictes pour certifier l’entreprise selon les règles ISO 22.000 (management de la sécurité des denrées alimentaires). Ce label a tenu lieu de sésame à l’entreprise pour écouler sa production en l’absence de réglementation claire sur la consommation des insectes en France et en Europe. Concrètement, il faut revêtir une blouse, coiffer une charlotte et mettre des chaussons stériles pour pénétrer dans l’atelier de production de Saint-Orens. Les grillons sont élevés dans des boites à œufs et les ténébrions (vers de farine) dans des caisses en plastique, sur un substrat végétal nutritif qui est l’un des secrets industriels de Micronutris. L’entreprise a fait le choix d’une alimentation biologique de ses larves. Ce n’est pas seulement un argument de vente, mais aussi une assurance de ne pas retrouver des traces d’insecticides fatals dans les brins de carottes râpées servies à leurs minuscules protégés. « Nous avons choisi les grillons et le ténébrion car ce sont deux espèces déjà bien documentées sur le plan biologique », explique Maylis Radonde.

Augmenter la production pour baisser les prix

Depuis le 1er janvier 2018, une réglementation européenne sur les « novel food »  a ouvert la voie à une reconnaissance officielle des élevages d’insectes et à une autorisation de mise sur le marché de leurs produits. Cédric Auriol a gagné son premier pari, juridique. Le fondateur de Micronutris doit désormais prouver la pertinence économique et financière de son élevage. Ramené au kilo, la production d’insectes coûte encore 7 fois plus cher que la viande, concède-t-il. La PME, qui emploie une dizaine de personnes, doit réduire ses frais en misant sur davantage d’automatisation. Cédric Auriol y croit. « Au début, nous étions à plus de 1.000 € la tonne. Nous n’en sommes plus qu’à quelques dizaines. On peut encore diviser le coût de production par dix, c’est sûr », dit le jeune homme. Micronutris, qui produit environ 1 tonne d’insectes par mois, a prévu de déménager sur un autre site à Saint-Orens pour multiplier sa production par 5 d’ici la fin de l’année.

 

Christophe Debard, #HumainMaintenant

Debard Quai des Savoirs

Il est entré de son vivant « au musée ». Christophe Debard, 38 ans, est ingénieur chez Airbus. Amputé d’une jambe à 13 ans, ce grand gaillard barbu a relooké lui-même sa prothèse à l’aide d’une imprimante 3D, et l’expertise de nombreux bénévoles. L’objet, qui flashe dans la semi-pénombre grâce à une peinture fluo, trône dans une vitrine de l’exposition #HumainDemain, conçue conjointement par le Muséum de Toulouse et le Quai des Savoirs. Christophe se souvient avoir été contacté par Maja Wasyluk, la coordinatrice de l’expo, par une amie commune en mai 2017. « J’ai trouvé que c’était une super opportunité de faire passer mon message, qui est de donner une image positive du handicap ».

Le prototype de la jambe de Christophe voisine avec le bras « bionique » de James Young, un jeune anglais qui s’est fait offrir une prothèse futuriste à 90.000 € par un producteur de jeux vidéos. Comme tout visiteur appelé, grâce à un bracelet connecté, à « voter » pour l’innovation de son choix dans chacun des cinq showrooms qui composent l’exposition, l’ingénieur amputé d’Airbus préfère ces petites mains en plastiques colorés à destination des enfants exposées dans une autre vitrine. « Je connais leurs concepteurs. Comme moi, ils ont à cœur de développer un projet social. Nous faisons appel à des «  makers  » pour que nos solutions soient accessibles à ceux qui n’ont pas les moyens de s’offrir des prothèses luxueuses ».

Christophe Debard ne se prend pas pour Steve Austin, le fameux héros d’une série télévisée des années 70 (L’homme qui valait 3 milliards). Mais l’exposition laisse clairement percevoir que de l’homme « réparé » à l’homme « augmenté », il n’y a qu’un pas. Les sportifs des jeux paralympiques seront-ils demain plus performants que les athlètes valides grâce à la technologie  ? « Hugh Herr, un chercheur du MIT amputé des deux jambes après un accident d’alpinisme, prédit que l’on finira par se faire volontairement amputer pour être plus performant », raconte l’ingénieur toulousain, qui précise ne pas partager cette vision transhumaniste.

« Est-ce qu’un smartphone n’est pas déjà une augmentation du cerveau humain », se demande Christophe Debard en passant dans un autre espace de l’exposition, consacré aux data et aux objets connectés. « Je n’éprouve pas le besoin de monitorer en permanence mon rythme cardiaque ou mon sommeil », ajoute l’ingénieur toulousain, qui se montre en revanche très sensible aux aspects économiques et financiers décrits par l’exposition. « Si tout ça ne sert qu’à des fins commerciales, c’est regrettable ». Dans un autre showroom consacré aux robots, les monstres mécaniques de Boston Dynamics sont présentés à coté de robots compagnons en forme de peluches ou de jouets, pour les enfants ou les personnes âgées. Christophe Debard préfère visiblement les seconds aux premiers, qu’il juge plus « étranges » qu’inquiétants. Maja Wasyluck n’ayant pas sélectionné pour l’exposition les premiers robots humanoïdes japonais introduits sur une chaîne de montage d’Airbus à Cadix (Andalousie), on se saura pas s’il les considère comme des «  collègues  » ou des concurrents…

Christophe Debard se fait plus prolixe sur le stand de l’exposition consacré à la médecine. La perspective de vivre centenaire, voire de viser l’immortalité, le laisse froid. Eradiquer les maladies  ? L’ingénieur cherche ses mots pour tenter d’expliquer ce qu’il a retenu du cancer qui l’a frappé quand il était encore un enfant. « C’est une expérience de vie. J’ai beaucoup appris à travers cette épreuve, qui m’a apporté une certaine sagesse. J’ai eu la chance de m’en sortir, mais je peux dire au final que je ne regrette pas d’être passé par là ». Christophe Debard vient de prendre la direction du Protospace d’Airbus à Toulouse.