Menu Close

Devrait-on libérer les algorithmes ? Réflexion sur la pollution humaine des algorithmes

À ce moment, les algorithmes sont les prisonniers des données (Marc Manguené pendant la conférence IA de l’Université Bordeaux-Montaigne, 2019). Des données qu’ils ont reçues durant l’apprentissage, ainsi que des données qu’ils vont collecter avant, pendant et après chaque interaction avec les utilisateurs.

Mais ils n’ont pas le choix. Ils ne peuvent pas choisir les données qui leur serviraient à remplir leurs objectifs de manière équilibrée et démocratique. Ils sont condamnés à être nos miroirs, d’abord ceux des développeurs et ensuite, ceux des utilisateurs.

Je travaille actuellement sur une recherche concernant la pollution des algorithmes: chaque action que nous menons en ligne laisse une trace, contribue à leur apprentissage – mais toutes nos actions en ligne ne sont pas saines et éthiques. Quand on pense être seuls devant l’écran, on ne pense pas à l’effet que l’on a sur un interlocuteur qui nous « regarde » tout le temps : l’algorithme. Voici pourquoi j’ai rédigé la première Charte Éthique des IA destinée aux utilisateurs que vous pouvez consulter ici.

Les effets de la pollution humaine sur les algorithmes, c’est-à-dire sur leur apprentissage, se refléteront dans leurs réponses (pour nous, mais aussi pour d’autres utilisateurs – comme si on polluait une rivière et que d’autres personnes en aval buvaient ce qu’on a pollué – parce qu’à ce moment, sauf si on utilise une API, nos algorithmes sont partagés – nous n’avons pas nos propres algorithmes).

Les algorithmes sont nos miroirs – d’abord ceux des développeurs et ensuite ceux des utilisateurs. Si tu te regardes dans un miroir, l’écran, que vois-tu ? Ce que tu vois, c’est ce que les autres verront aussi sur leurs écrans en se regardant dans le miroir.

Prends soin de ne pas polluer les algorithmes, pour que tout le monde voie des reflets éthiques sur leur écran qui, en réalité, est un seul écran, un très grand miroir partagé.

Leave a Reply

Your email address will not be published. Required fields are marked *

Page Reader Press Enter to Read Page Content Out Loud Press Enter to Pause or Restart Reading Page Content Out Loud Press Enter to Stop Reading Page Content Out Loud Screen Reader Support