L'entreprise sous algorithmes - Hubert Guillaud - Séminaire automne 2025
Rédigé par CFE-CGC Orange le . Publié dans Nos séminaires.
Lors de notre séminaire CFE-CGC Orange de automne 2025, Hubert Guillaud fondateur du média danslesalgorithmes.net, accompagné de Thierry Taboy, sont venus nous parler des entreprises sous algorithmes.
Thierry Tabois et Hubert Guillaud abordent l'impact social des algorithmes, notamment dans les services publics tels que la CAF et Parcoursup, où les systèmes de scoring automatisés créent des discriminations, surtout envers les populations précaires.
Ils dénoncent l'opacité et la complexité croissante de ces systèmes, renforcée par l'intelligence artificielle, qui limite la contestation et la compréhension des décisions. L'exemple de la CAF illustre comment des scores basés sur des données multiples, parfois peu pertinentes, conduisent à des contrôles fréquents et injustes, notamment pour les mères isolées.
Parcoursup illustre la normalisation et la standardisation des critères de sélection, avec un raffinement excessif des notes qui ne reflète pas la motivation réelle des candidats. Ils soulignent aussi les risques liés à la surveillance accrue via l'accès aux données personnelles par différentes administrations, et la nécessité d'une régulation claire et transparente.
Dans le contexte de l'entreprise, ils évoquent l'utilisation problématique de technologies comme Speech Analytics, qui analysent la tonalité de la voix et peuvent renforcer les discriminations. Ils insistent sur l'importance de la simplicité des calculs, de l'implication des usagers dans les processus, et de la mobilisation collective, notamment syndicale, pour défendre les droits face à ces systèmes.
Enfin, ils évoquent les enjeux liés à la géolocalisation des données et la souveraineté juridique, ainsi que des exemples de recours juridiques pour contester les algorithmes opaques, soulignant l'urgence d'une régulation adaptée à l'ère numérique.
