Bibliographies

De la boîte noire à la transparence

De la boîte noire à la transparence
« Black Box Society : Les algorithmes secrets qui contrôlent l'économie de l'information » vient de paraître chez Fyp

Les algorithmes et les données assurant des décisions nous concernant sans transparence sont dénoncés dans « Black Box Society », de Franck Pasquale, aux Editions Fyp.

PublicitéProfesseur de droit américain, Franck Pasquale a écrit un ouvrage à charge sur la logique des boites noires. Cet ouvrage est aujourd'hui publié, traduit en Français, par Fyp Editions.
Le principe de la boite noire est celui d'une décision algorithmique. Soient un ensemble de données et une question, un traitement va permettre de prendre une décision relative à cette question, sans intervention humaine et extrêmement rapidement. Cette décision peut être un simple score mais ce score peut avoir une grosse influence, par exemple un score de solvabilité va entraîner une acceptation ou un refus de prêt.

La principale critique formulée tient au manque de transparence propre à une boite noire. Les données utilisées, les algorithmes appliqués, etc. restent des mystères voire des secrets jalousement protégés, éventuellement en noyant toutes les informations relatives à ces algorithmes dans un fatras incompréhensible. L'auteur semble avoir une dent particulière contre Google qui s'introduit partout et, au final, décide de tout ou presque, en toute obscurité.

En fait, ce que professe Franck Pasquale est la fin de la démocratie. Il faudrait peut-être parler de datacratie avec les concepteurs d'algorithme comme nouveaux tyrans. Surtout, le principal risque est la pollution -volontaire ou non- des données entraînant des injustices. Et le scoring à outrance remet bien en cause le principe d'égalité de traitement voire d'Etat de droit. Le propos de l'auteur n'est cependant pas une simple condamnation de toute décision algorithmique. Mais il défend la transparence.

Partager cet article

Commentaire

Avatar
Envoyer
Ecrire un commentaire...

INFORMATION

Vous devez être connecté à votre compte CIO pour poster un commentaire.

Cliquez ici pour vous connecter
Pas encore inscrit ? s'inscrire

    Publicité

    Abonnez-vous à la newsletter CIO

    Recevez notre newsletter tous les lundis et jeudis

    La question du moment
    Avez-vous déployé des solutions d’IA générative auprès de certains métiers ?