Bribes

* J'attire votre attention sur l'article de la présente lettre : « Informatique, la mort calculée, sans recours, un total renversement des principes moraux couramment admis » Une mutation vers une société sans sens de l'humain. Bien sûr, tous les articles de la lettre sont intéressants :-) mais celui-ci marque une grave mutation sociale.

* Dans le sens de ces préoccupations, l'émission « Ce soir ou jamais », France 2 le 23 octobre de 22h30 à 0h05 donne la parole à des informaticiens, des philosophes, des sociologues pour analyser les conséquences sur notre vie et sur la société de l'usage de logiciels opaques, de la montée en puissance de l'usage des big data. Fondamental. Je pense que vous trouverez mieux que moi comment la voir en replay. Fondamental. Cela dure 1h30, c'est beaucoup, mais on peut regarder par petits morceaux. Fondamental.

* 23 10 2015 Un camion percute un autocar. 43 morts. J'ai de la peine pour les familles des victimes. Du coup, les télés et les radios tournent en boucle : nous n'avons rien à dire, mais nous le disons longuement. Le premier ministre dit que la France est en deuil, le président de la république fait une déclaration. Au moment où j'écris, rien ne donne pour l'instant un sens particulier à cet accident. C'est un accident « banal ». En septembre 2015 il y a eu au total 260 morts sur la route, mais la France n'était pas en deuil ! Les 43 morts d'aujourd'hui ne sont, hélas, qu'un faible nombre par rapport au total des morts chaque année, plus de 3 000. Ils sont nombreux d'un seul coup, 43 d'un seul coup, et du coup la France est en deuil. Je pense au 43 morts, mais n'oublie pas les 8 autres qui, probablement, sont morts aussi aujourd'hui et les 3 000 de l'année. Nul doute que, une fois par an, le premier ministre et le président déclareront « La France est en deuil ». Quel est le seuil ?

Harcèlement raciste

Je vous ai sans doute, lorsque j'y suis allé, fait part de mon plaisir à la représentation du cirque tzigane Romanès. Ce cirque, installé square Parodi dans le XVIème est depuis quelques temps victime de harcèlements racistes.

Tout est fort bien décrit sur

http://blogs.mediapart.fr/edition/roms-et-qui-dautre/article/121015/plus-de-8000-signataires-pour-soutenir-le-cirque-tzigane-romanes

Installés depuis le mois de juin 2015 dans un nouveau lieu, au Square Parodi dans le 16e arrondissement de Paris, nous faisons face, chaque jour, à un réel vandalisme qui nous fait comprendre que nous ne sommes pas les bienvenus pour certains.

« Chaque jour depuis deux mois, nous sommes confrontés à des actes de délinquance odieux, nos portes et fenêtres de caravanes sont défoncées, nos canalisations d’eau percées, notre branchement internet incendié, toutes nos archives photos ainsi que nos costumes de scène ont été volés, etc. Sans compter les multiples procédures judiciaires déposées contre nous, par diverses associations locales. »

J'hésite toujours à signer des pétitions, car on n'en connaît souvent pas très bien les tenants et les aboutissants. Là, j'ai signé. Je me trouve en compagnie de Anne Hidalgo, Nathalie Baye, Jeanne Birkin, Ariane Ascaride, Edgar Morin et 8 000 autres personnes. J'aime bien le cirque Romanès et je n'aime pas du tout que l'on harcèle les gens, encore moins sur leur origine.

Le nouveau spectacle du cirque Romanès s'intitule « la lune tzigane brille plus que le soleil. » Le spectacle est sûrement très beau. Petit, regret, pourquoi un titre discriminant, classant les cultures les unes par rapport aux autres ? Décidément, nul n'est à l'abri...

Un peu d'histoire : méfions-nous de l'Autre

Dans le précédent numéro de [alerte] j'ai cité un épisode historique (des émeutes à Paris en 1786) rapporté par JF Parot dans les enquêtes du commissaire Le Floch, en m'amusant de la transposition contemporaine que fait implicitement Parot dans la description de ces événements.

La revue Le Pèlerin du 15 octobre 2015 consacre trois pages à l'historien américain Robert O. Paxton qui a beaucoup travaillé sur l'antisémitisme en France avant et pendant la guerre de 39-45. Ses ouvrages (La France de Vichy, puis Vichy et les juifs) ont contribué à éclairer l'opinion en France sur cette période. Vichy et les juifs reparaît cet automne dans une édition enrichie et mise à jour. (Je cite la revue. Je ne connais pas Paxton. Peut-être l'un de vous, historien compétent, a-t-il des réserves sur Paxton?)

Un extrait des propos de Paxton :

L'antisémitisme imprègne à l'époque toutes les couches de la société, traverse tous les courants politiques et se reflète dans les écrits des intellectuels d'une façon qui nous paraît aberrante aujourd'hui. Une grande majorité de personnes estiment à la veille de la guerre [de 39-45] qu'il y a un « problème juif ». Les juifs sont prétendus responsables de la grave crise économique qui a touché la France à partir de 1932. Et les 50 000 réfugiés juifs chassés par les persécutions du Reich renforcent encore les préjugés. Après le choc profond de la défaite de mai 1940 ils deviennent le bouc émissaire responsable du ''déclin des valeurs éternelles de la France''. »

Je ne sais pas si la transposition est volontaire chez Paxton : remplaçons « juifs » par « arabes, musulmans, islamistes, immigrés, Roms », considérons les courants politiques et intellectuels qui se répandent, constatons qu'une partie du débat politique se concentre désormais sur le « fait » qu'il y a « un problème de l'immigration. »

L'ennemi, c'est l'autre, comme toujours !

Avis de l'un de vous, historien. Merci.

« Paxton a bien sûr raison, il suffit de lire Simenon, Giraudoux, Leo Malet...

Aujourd'hui ? Les juifs des années Trente étaient vus comme puissants, ce que ne sont ni nos arabes ni nos Roms. Ils font peur différemment. »

Informatique : qu'est-ce que tous ces traitements veulent dire ?

Je suis toujours très préoccupé par l'opacité des traitements informatiques. De nombreux logiciels aident à gérer la société, la vie économique, notre vie personnelle. Avec le développement massif du l'usage des objets connectés, nous sommes environnés de dispositifs techniques dont nous ne connaissons pas les modes de fonctionnement car ils sont pilotés par des logiciels couverts par le secret industriel. Je pense que cette situation, du point de vue du consommateur, mais surtout du point de vue du citoyen, n'est pas tolérable. Il n'est pas éthiquement et intellectuellement tolérable que nous vivions dans un monde dont les règles sont définies par d'autres et nous sont opaques.

De façon générale, et en particulier pour les organismes publics ou financés sur fond public, je pense qu'il faut développer l'usage des logiciels à code source ouvert qui permettent un accès démocratique aux finalités et aux principes de traitement selon lesquels le logiciel est programmé.

Suivant des modalités à déterminer, pour tenir compte en particulier du secret commercial et du droit d'auteur, il me semble nécessaire que les auteurs des traitements numériques que nous employons nous fassent connaître leurs limites de validité, la validité espérée des résultats et surtout la nature des principes employés pour traiter les données : quels sont les modèles physiques, économiques, sociologiques employés pour écrire les logiciels, et, dans le cas de traitement de big data, (données massives), quels sont les principes employés pour rechercher les concomitances ?

Des exemples ? Selon les modèles économiques mis en œuvre, un logiciel peut proposer des décisions tout à fait différentes sur la gestion de la société. Selon les présupposés médicaux (débats en cours sur les traitements médicaux, usage de médecines « douces », intervention des laboratoires pour suggérer tel ou tel médicament) les logiciels qui captent nos données de santé et conseillent des comportements ou des traitements peuvent nous orienter de façon très différente. Selon les algorithmes employés, tel site peut venir en tête d'une recherche sur Google ou au contraire ne plus apparaître. Et tout à l'avenant. On annonce avec gourmandise l'arrivée du « web sémantique » qui traitera nos requêtes en fonction de leur sens, et plus seulement en fonction de la présence de quelques mots clés. J'ai de fortes craintes : si le « sens » que le programme attribue à nos requêtes est fondé sur les concomitances constatées dans les données massives, c'est le loi de la majorité qui fera sens et non plus l'usage de la raison.

Il faut que, même sous une forme simplifiée, nous puissions être informés des principes mis en œuvre dans le traitement numérique de l'information.

Je découvre le site lemonde.fr/sciences

Une mine d'informations sur l'actualité scientifique, je place aussitôt le lien dans mes favoris. Il faut être abonné, mais on peut aussi acheter chaque article pour 2 euros.

Sur la page d'accueil de ce 19 10 2015 un article important :-) sur les vertus de la sieste, ce repos diurne trop négligé.

Et surtout, à droite de la page, une rubrique « Les débats », « Plaidoyer pour une analyse ''responsable'' des données ». D'accord, 2 euros c'est cher pour lire un article, mais il les vaut bien. Son auteur, Serge Abiteboul, est directeur de recherche à l'Institut national de recherche en informatique et automatique et professeur à l'ENS Cachan. Cet article me semble fondamental.

http://www.lemonde.fr/sciences/article/2015/10/12/plaidoyer-pour-une-analyse-responsable-des-donnees_4788082_1650684.html

Ce lien vous permet d'accéder au début de l'article. 20%. Pour le reste, il faut acheter l'article.

La rigueur et la complexité de la pensée de l'auteur font que je ne suis pas à même de rédiger une synthèse. Je me contente donc de citer quelques extraits, sachant que j’aplatis considérablement la pensée de l'auteur.

Il faut que la collecte et l'analyse de données deviennent impartiales, transparentes et également accessibles à tous. [...]

L'impartialité, pour ce qui est de l'analyse de données, c'est avant tout l'absence de biais. Un biais peut provenir d'un algorithme qui refléterait les intérêts commerciaux, les préférences politiques ou autres de ses concepteurs. […]

Un algorithme peut reconstruire des valeurs de variables cachées, comme l'origine ethnique, et ensuite prendre des décisions fondées sur ces valeurs. […]

La transparence offre la possibilité de vérifier qu'un service se comporte bien comme il le devrait, comme il le promet. […]

Il est devenu indispensable que chacun acquière un minimum de compétences. Un individu devrait être en mesure de comprendre et d'évaluer de manière critique des processus de collecte et d'analyse de données... […]

La technologie du big data est complexe et évolue rapidement ce qui rend sa régulation difficile. Les régulateurs eux-mêmes manquent souvent des compétences nécessaires. […]

Une remarque : je ne pense pas du tout que tous, tous les utilisateurs, tous les citoyens soient à même d'analyser les finalités d'un logiciel à code source ouvert. (En tout cas pas moi !) Je ne pense pas que tous, tous les citoyens, puissent analyser les modalités d'usage des données massives. (En tout cas pas moi.) Je pense seulement qu'il est de plus en plus urgent que se forment des communautés de veilleurs, de lanceurs d'alerte, des communautés de personnes compétentes pour former des groupes capables d'intervenir rationnellement dans le débat public. Et pas seulement en informatique. Le développement actuel des usages des nanotechnologies en est un autre exemple. Il est absurde de refuser a priori toute évolution technologique, mais il est également absurde d'abandonner l'esprit d'analyse et l'esprit critique. Cela suppose, on reconnaîtra mes leitmotivs, que la culture scientifique ne soit plus considérée comme étrangère à la culture, que l'on ne considère pas que les « savants » détiennent des dogmes qui appartiennent à eux seuls, que l'on ne considère pas que toute analyse critique des évolutions scientifiques et technologiques est un signe d'obscurantisme passéiste. Il existe en France des modalités organisant de façon ouverte le débat démocratique sur les évolutions scientifiques et techniques. Sur les nanotechnologies, ce débat a échoué. Mais point n'est besoin...

Informatique : la mort calculée, sans recours : un total renversement des principes moraux couramment admis

┌♺ Signalé

L'article paru dans Le Monde daté du mercredi 21 octobre 2015, Créé pour tuer, Yves Eudes et Christian Grothoff, me semble décrire une réalité gravissime, aux conséquences dramatiques et terrifiantes. Je vais essayer de résumer pour tenter de vous faire percevoir mes préoccupations.

Chapeau de l'article : Skynet, un programme secret fondé sur l'analyse de données téléphoniques permet à l'agence de sécurité américaine, la NSA, de cibler des terroristes présumés au Pakistan. [JM B : cibler, et, comme on le verra dans l'article, abattre.] Sur cette liste noire d'individus à abattre au moyen de drones figurent des innocents.

Contexte : en France pour l'instant la peine de mort est abolie. Certains services secrets ont le droit de tuer, rarement (j'espère) et après entretien solennel avec le président de la république. En France pour l'instant les militaires en opération peuvent tuer « l'ennemi ». En France pour l'instant chacun n'a le droit de tuer que s'il est en légitime défense, c'est à dire si sa vie est en danger de façon directe et immédiate. (On n'est pas en légitime défense pour le seul fait que des intrus rentrent la nuit dans votre domicile, de même on n'a pas le droit de tirer sur un cambrioleur si sa propre vie n'est pas en danger immédiat.) En France pour l'instant une sanction pénale ne peut pas être prise sur la foi d'un simple traitement automatique, il faut une intervention humaine. Les photos des radars qui enregistrent un excès de vitesse doivent être contresignées par un être humain avant de se transformer en amendes, retraits de points, etc.

Les pratique US décrites par le journal sont un bouleversement de société, de philosophie, de principes moraux. Pour résumer de façon lapidaire, au Pakistan, les écoutes massives des téléphones portables permettent aux servies US, grâce aux comparaisons faites sur la base de données massives, de déterminer si une personne a les mêmes habitudes qu'un terroriste déjà arrêté ou éliminé : fréquence et nombre des communications téléphoniques données et reçues, heures, localisation, déplacements. On peut ainsi déterminer les habitudes de la personne : quelles sont ses habitudes de communication, voyage-t-elle souvent, avec qui, dort-elle souvent chez des amis, déménage-t-elle régulièrement, va-t-elle à l'étranger. Si après ce rapprochement il apparaît que la personne a les mêmes habitudes qu'un terroriste déjà connu, elle est considérée comme terroriste et exécutée par un drone. Cela, hélas, n'est pas une plaisanterie ou un film de fiction hasardeux.

Terrifiant. Critères irrationnels (il a les mêmes habitudes qu'un terroriste, donc il est terroriste), pas de procès, pas de jugement, exécution sans appel.

Le logiciel gère 88 critères provenant de 188 millions de personnes. Vu la masse, cette gestion est automatique et repose sur des algorithmes secrets. L'algorithme établit un classement, terroriste ou innocent. Pour éviter les abus !!! seuls 50% des classés terroristes sont retenus comme dangereux. Le journal Le Monde montre en quoi ces résultats sont scientifiquement invalides.

La NSA reconnaît elle-même qu'il y a des erreurs et que des « innocents » peuvent être exécutés. La NSA reconnaît un taux de faux « coupables » de 0,008%. Infime ? Rapporté à la population du Pakistan, cela fait 15 000 « innocents » accusés à tort. Mais face aux exigences de la lutte contre le terrorisme...

Les Usa ne disent pas combien de « coupables » sont exécutés par des drones. Une étude indépendante affirme que entre 2004 et 2015 il y a eu entre 2 500 à 4 000 morts. Les victimes « innocentes » sont nombreuses lorsqu'un drone vise une maison la nuit. Selon cette étude seuls 15% des morts ont pu être identifiés comme des personnes dont les activités menaçaient les intérêts américains.

On assiste sans en être conscient à un total bouleversement des principes moraux couramment admis sur le droit à donner la mort.

On assiste aussi, sans en être conscient, à une montée en puissance dramatique de l'usage des données massives. On voit bien que avec de telles méthodes on peut traquer n'importe qui sur n'importe quel sujet : comportements, intérêts politiques philosophiques ou religieux, militantisme associatif, syndical ou politique, pratique sexuelles, vie familiale. On rentre dans le règne de l'arbitraire du secret : on est jugé à notre insu, sur des critères inconnus, et sans appel.

Je ne pense pas être totalement farfelu en souhaitant, comme dans le précédent article de cette lettre, une transparence des principes des traitements. Bon, face au secret défense j'ai peu de chances.

Petit rappel : pendant la guerre de 39-45 les nazis appelaient « terroristes » les résistants.

Petite inquiétude : on rentre dans l'ère de la punition infligée à une personne non pas en fonction de ce qu'elle a fait, mais en fonction de ce qu'elle pourrait faire. Tu-le, si tu ne sais pas pourquoi, lui il le sait !

Petit souvenir : au moment de la guerre en Irlande, l'armée britannique repérait les « terroristes » irlandais en surveillant les consommations d'électricité : les terroristes se réunissent la nuit, consomment du courant pour imprimer des tracts. Mais les sanctions n'étaient pas fondées sur cette seule surveillance. Tout de même, l'idée était en germe.

Petite alerte : je ne sais pas si cet article est clair. Si vous trouvez que non, vu son importance, je tenterai de l'écrire autrement.

Complément d'information :

https://strategika51.wordpress.com/2015/05/10/skynet-existe-et-il-est-operationnel/

Diffusion libre à condition de citer la source, [alerte] JM Bérard, et impérativement la date.

Le nuage de [alerte]

J’ai placé dans le nuage de [alerte] des textes et documents divers, avec le seul critère qu’ils me semblent intéressants et méritent d’être portés À votre connaissance. Cliquez, naviguez. Pour accéder au nuage cliquer sur :

https://drive.google.com/folderview?id=0B_Wky0_FwW1tekd3aXNsOEpwVk0&usp=sharing

Fonctionnement de la lettre [alerte]

Inscription sur la liste de diff sur simple demande. On peut aussi se désinscrire. Les adresses des destinataires n’apparaissent pas lors de l’envoi.

Vous pouvez m'écrire à

jean-michel.berard (x) orange.fr

Ce qui est écrit dans cette lettre n’engage strictement que moi, sauf bien sûr s’il s’agit de la citation d’un appel ou d’un communiqué.

Les remarques et réactions que vous m’envoyez concernant ce que j’écris me sont précieuses, indispensables, car elles font rebondir la réflexion.

Lorsque je publie l’une de vos réactions, je ne mentionne pas votre nom. La liste de diffusion comporte 200 abonnés, qui plus est la lettre est disponible sur internet et je pense que vous ne tenez pas forcément à ce que votre qualité de lecteur de [alerte] soit diffusée ainsi à tous les vents.

Les messages que vous m’envoyez, s’ils concernent la lettre [alerte], peuvent être diffusés dans la lettre, un peu comme le courrier des lecteurs qui écrivent à un journal, mais sans que votre nom soit cité. Si en m’envoyant une réaction à propos de la lettre vous ne souhaitez pas du tout qu’elle soit publiée, merci de me le signaler.

Outre l’envoi par courrier électronique sur simple demande, les lettres [alerte] sont consultables sur

http://alerte.entre-soi.info/

Fin

de la lettre du 24 octobre 2015