LES BOITES NOIRES DE LA SERVITUDE

Le Franc-Maçon est un homme libre et de bonnes mœurs. Si les bonnes mœurs sont un concept difficile a définir aussi bien d’ailleurs hier que de nos jours et sont parfois du domaine de l’intime. La Liberté est bien dans l’ADN Maçonnique, juger par soi-même être un homme libre de ses opinions est parfois difficile quand malgré nous « à l’insu de notre plein gré » les Big data manipulent nos esprits.Il est donc de notre devoir de résister à ses forces opaques qui agissent en plein jour, il ne s'agit pas de paranoia ni d'imbécile théorie du complot, mais de lucidité. Et nous pouvons agir en faisant pression sur nos dirigeants pour préserver nos libertés

« La mathématicienne américaine Cathy O’Neil nous met en garde contre les dangers de certains algorithmes, aux impacts destructeurs dans la justice,l’éducation, l’accès à l’emploi ou au crédit.

Cathy O’Neil n’est pas un « data scientiste » comme les autres. C’est une femme, aux cheveux bleus, et surtout, elle se définit elle-même comme « data sceptique ».

Cette docteur en maths de la très prestigieuse université Harvard aux Etats-Unis tire la sonnette d’alarme contre certains algorithmes opaques et discriminatoires dans un livre à paraître en septembre, « Weapons of math destruction » (math au lieu de mass, vous aurez compris), que l’on pourrait traduire par « Armes de destruction matheuses ». Elle y raconte  « comment le big data augmente les inégalités et menace la démocratie ».

The Black Box Society, les algorithmes secrets qui contrôlent l'économie et l'information c’est le thème du Livre de Frank PASCALE.

Frank Pasquale est professeur de droit à l’université du Maryland, aux Etats-Unis. Il travaille depuis longtemps sur les rapports entre les technologies de l’information et la loi, et s’intéresse en particulier aux dimensions éthiques et sociales de ces questions.

« Capturées, compilées, archivées, nos données personnelles et nos traces numériques sont silencieusement injectées dans le coeur du Big Data. Des algorithmes cachés influencent nos choix, statuent sur notre solvabilité, jugent de notre employabilité, prédisent nos actions ou tout simplement, nous surveillent. Les géants de la Silicon Valley et de la finance donnent des verdicts algorithmiques qui jouent un rôle central dans nos vies et décident du sort des start-ups, des innovateurs et de toute l’économie. »

 les algorithmes de Google, qui régissent les résultats de ses études, sont protégés par le secret commercial.

« Aujourd’hui, aux Etats-Unis, de plus en plus d’entreprises affirment que toute l’analyse de données qu’elles mènent en interne relève du secret commercial, et que les algorithmes de notation, d’une personne ou d’une entreprise, sont protégés par le premier amendement, qui garantit la liberté d’expression. Certains tribunaux ont déjà accepté ces arguments. C’est comme ça que se crée une boîte noire de plus en plus impénétrable.

La boîte noire, c’est aussi une référence à la boîte noire d’un avion, qui enregistre toutes les manœuvres de l’appareil. Aujourd’hui, les grosses entreprises surveillent de très près leurs employés et peuvent faire de leur vie un enfer si ceux-ci veulent révéler des informations. On l’a vu avec l’affaire LuxLeaks : les employés qui voulaient parler se sont vite aperçus qu’ils risquaient la prison. 

Auparavant, le secret commercial s’appliquait aux personnes les plus haut placées dans les entreprises. Aujourd’hui, les entreprises attachent une telle importance à leurs secrets qu’elles l’appliquent jusqu’en bas de la hiérarchie. Aux Etats-Unis, le secret commercial est même utilisé pour forcer les employés de la chaîne de sandwichs Jimmy John’s à signer un contrat de confidentialité sur la composition de leurs sandwichs  ! En revanche, les actions des dirigeants restent cachées dans ces boîtes noires – protégées par le secret commercial, le jargon qu’ils emploient et des techniques de verrouillage et de cryptographie.

On est donc moins dans une société de la transparence que dans une société du secret  ? Ou du moins, dans une société de la transparence asymétrique, où la majorité des gens sont surveillés au travail ou par le gouvernement, tandis que le secret est le privilège des plus puissants ?

Absolument. La capacité de surveiller les moindres faits et gestes des autres, tout en cachant les siens, est la forme la plus haute du pouvoir.

C’est l’histoire platonicienne de l’anneau de Gygès  : celui qui est invisible, et qui donc peut voir tout ce que font les autres à leur insu, dispose d’un avantage stratégique énorme. C’est le ressort central d’entreprises comme Google ou Facebook. Elles disent qu’elles doivent leur richesse et leur succès au fait d’avoir les meilleurs analystes de données et les meilleurs algorithmes. Mais ce succès tient moins à des compétences spéciales qu’à une position de pouvoir particulière, qui leur permet de surveiller tout le monde en se soustrayant elles-mêmes aux regards. »

Si ces faits vous semblent connus, il n’est pas inutile de les rappeler, prenant ainsi conscience de la manipulation constante de nos données personnelles donc de nos cerveaux une atteinte sans précédent à notre intimité et notre Liberté individuelle, on se croirait dans un mauvais James Bond. Car il n’y a pas de protection des citoyens par les états, les Big Data ont mis la main sur les états eux mêmes et quand l’on voit le jugement rendu au Luxembourg (dirigé il y a peu par Juncker) dans l’affaire Luxleaks il y a de quoi s’inquiéter.

Ces deux auteurs dénoncent un fait bien plus grave encore que l’utilisation de nos données, c’est leur modifications pour créer de nouvelles données et donc leur dénaturations, c’est un mauvais cauchemar sous prétexte de protection commerciale ce qui est un comble.

Cela n’est pas inéluctable nous devons exiger ! La clarté sur l’exploitation de nos données personnelles, c’est le rôle des états de protéger les Libertés fondamentales des Citoyens. Il faut comme le dit Catherine  O’Neil « Ouvrir les modèles ! , pas seulement les données ». Car les Big Data augmentent les inégalités et menacent la démocratie.

JFG.

Sources : Interview Frank PASCALE au Nouvel Obs (« Surveiller, tout en se cachant, est la forme la plus haute du pouvoir », les conférences de Cathy O’NEIL, les articles de Hubert Guillaud sur les algorithmes.

Pour aller plus loin :

Le livre de Catherine O’NEIL : Weapons of Math destruction.

Le livre de Frank PASCALE :   The Black Box Society.