#100africainslesplusinfluentsen2021 Timnit Gebru (Ethiopie): Affronter Google sur la question de l'éthique

Mme Gebru, experte en matière de partialité algorithmique et d'exploration de données, a fait la une des journaux lorsqu'elle a quitté l'équipe chargée de l'éthique de l'IA chez Google.
Google a déclaré qu'elle avait démissionné, mais Timnit n'était pas d'accord.

En cause, un article non publié intitulé "On the Dangers of Stochastic Parrots : Can Language Models Be Too Big ?", coécrit par Mme Gebru, sur les risques des modèles de langage de très grande taille, les impacts environnementaux et financiers, la possibilité de biais, l'incapacité des modèles à comprendre les concepts derrière ce qu'ils apprennent et la possibilité de les utiliser pour tromper les gens.

Mme Gebru a déclaré qu'on lui avait demandé de retirer son article et que ses demandes concernant l'identité et le raisonnement des réviseurs avaient été ignorées. Elle a déclaré qu'aucune de ses conditions n'avait été remplie et qu'elle avait été licenciée. Cette affaire a suscité l'inquiétude du grand public quant à la sécurité et à l'efficacité de l'IA.

Des milliers d'employés, d'universitaires et d'autres sympathisants ont signé une lettre condamnant son traitement. Google a présenté des excuses sans reconnaître ses torts.

Chez Google, elle a codirigé une équipe chargée d'étudier comment l'IA pouvait être utilisée à des fins sociales. Cependant, alors qu'elle étudiait la précision des logiciels de reconnaissance faciale, elle a découvert que les femmes noires avaient 35 % de chances en moins d'être reconnues que les femmes blanches, avec toutes les conséquences que cela implique.

Au milieu de cette année, elle a déclaré qu'elle collectait des fonds pour lancer un institut de recherche indépendant basé sur son travail au sein de l'équipe éthique de Google et sur ce qu'elle avait réalisé en tant que fondatrice de Black in AI, une communauté de chercheurs noirs en IA.