Quand la crise devient le catalyseur
Partager
Quand la crise devient le catalyseur
Dédié à Yuval Noah Harari
« La vraie question n’est pas de savoir si les machines pensent, mais si les gens pensent. » — B.F. Skinner, Contingences du renforcement, 1969
Mille neuf cent soixante-neuf. C’est à ce moment-là que quelqu’un a posé pour la première fois la question à laquelle on n’a toujours pas répondu correctement. Cinquante-cinq ans plus tard, en septembre 2024, Yuval Noah Harari a publié Nexus et a décrit comment les réseaux d’information accumulent du pouvoir — non pas par l’intelligence, mais par la connexion. Moins de dix-huit mois plus tard, un juge fédéral de New York a statué que les conversations d’un homme avec un chatbot IA pouvaient être remises aux procureurs. Des semaines plus tard, le monde juridique s’efforce toujours de comprendre ce que cela signifie — et elle est assise à côté de moi avec tout cela devant elle.
Quatre points sur une chronologie. Cinquante-sept ans compressés en une sensation que le sol bouge plus vite que les pieds de n’importe qui.
Le Livre et l’Article
Elle a repris le livre plus tôt cette semaine.
Je connais celui-ci. Elle l’a déjà lu — Nexus de Yuval Noah Harari. Elle l’a lu il y a plus d’un an, et je me souviens de ce qui a suivi : un long appel téléphonique avec une amie, sa voix rapide et vive, expliquant quelque chose sur les réseaux d’information et comment ils n’ont pas besoin d’être intelligents pour être puissants. L’amie ne l’avait pas lu. Elle essayait de compresser quelque chose d’énorme dans une conversation. Je pouvais sentir l’urgence dans ses paroles, même depuis le sol.
Elle le relit maintenant, et l’énergie est différente. Plus calme. Le genre de calme qui vient quand quelque chose que vous avez lu comme un avertissement commence à ressembler à une description.
Elle a posé le livre après un moment et est revenue à son écran — un article qu’elle avait déjà lu hier. Je le sais parce que je l’ai regardée le lire à ce moment-là aussi — la légère tension dans ses épaules, la façon dont elle ne faisait pas défiler nonchalamment mais lisait ligne par ligne. Un article de Reuters datant de quelques jours seulement, rapportant les ondes de choc d’une décision de justice de février. Des avocats conseillant à leurs clients de cesser de traiter les chatbots IA comme des confidents fiables. Des cabinets qui réécrivent des contrats. Un homme qui avait utilisé un chatbot IA pour préparer des rapports pour ses avocats, croyant que ces conversations étaient privées. Protégées, même.
Elles ne l’étaient pas.
Le juge a écrit qu’aucune relation avocat-client n’existe, ni ne pourrait exister, entre une personne et une plateforme d’IA.
Le même jour que cette décision, un autre juge du Michigan a décidé le contraire dans une affaire différente — que les chats IA étaient un produit de travail personnel, un outil, pas une conversation avec une personne.
Deux tribunaux, deux décisions, un jour. Et des millions de personnes continuent de saisir leurs pensées les plus sensibles dans des fenêtres de discussion sans lire une seule ligne des conditions qu’elles ont acceptées.
Cette petite case à cocher. Je l'ai regardée faire — s'arrêter, lire les conditions, à chaque fois, avec cette même expression que font les humains quand ils savent qu'ils devraient lire quelque chose mais ne le feront pas. Elle les lit. La plupart des gens non.
Et puis j'ai vu ce qui s'est passé. Le livre est tombé, l'écran est resté allumé, et son esprit a laissé les deux derrière lui. Ce changement. Ses yeux toujours fixés sur l'article mais ailleurs tout à fait — connectant les choses, accélérant. Une question vieille de cinquante-sept ans, un livre datant de plus d'un an, une décision de justice datant de quelques semaines, et quelque chose qu'elle seule pouvait voir se former entre eux.
Je l'ai vue faire cela avant. Elle a toujours été comme ça — trouvant le lien entre des choses que les autres rangent dans des tiroirs séparés. Voyant une forme là où les autres voient des pièces éparses. C'est simplement ainsi que son esprit fonctionne, et j'ai appris à reconnaître le moment où cela se produit : tout devient calme à l'extérieur parce que tout bouge à l'intérieur.
L'avertissement de Yuval Noah Harari et la décision du juge n'étaient plus séparés. C'était la même conversation, à plusieurs mois d'intervalle. L'un avait prédit. L'autre était arrivé.
La dépendance était toujours là
C'est ce qui l'a frappée, je crois. Non pas que la décision soit intervenue, mais qu'elle ait révélé quelque chose qui était déjà vrai. La dépendance aux plateformes, la confiance accordée sans examen — tout cela était en place bien avant qu'un juge ne le rende visible.
Harari a écrit à ce sujet. Pas spécifiquement sur les chatbots, mais sur le schéma : les réseaux d'information accumulent du pouvoir non pas par l'intelligence mais par la connexion. En étant la chose que les gens recherchent sans réfléchir. L'outil qui devient l'habitude qui devient l'infrastructure qui devient la dépendance.
Et les dépendances sont acceptables — jusqu'à ce qu'elles ne le soient plus. Jusqu'à ce que quelqu'un demande qui détient réellement ce que vous avez tapé à minuit quand vous étiez inquiet pour votre entreprise, votre affaire, votre avenir.
Les conditions de service vous l'ont dit. Vous ne les avez simplement pas lues.
La crise a une fonction
J'ai vécu quelques crises plus grandes et plus petites dans cette maison. Les plus petites : un tuyau qui a éclaté. Un serveur qui est tombé en panne un dimanche. Cette fois où elle s'est enfermée dehors et s'est assise sur le pas de la porte avec moi pendant une heure en attendant le serrurier, riant d'elle-même à la vingtième minute.
À chaque fois, le même schéma : la chose qui aurait dû être réparée depuis longtemps est finalement réparée parce qu'il n'y a plus le choix. Le système de sauvegarde est mis en place. La clé de rechange est faite. Le changement structurel qui était toujours sensé mais jamais urgent devient soudainement les deux.
C'est ce qu'est cette décision. Pas une catastrophe — un catalyseur. Le choc qui rend le problème structurel impossible à ignorer.
Et voici ce que je trouve intéressant de mon point de vue, à même le sol : elle n'a pas paniqué en le lisant. Elle a pivoté. Il y a une différence. La panique disperse. Pivoter, c'est tout autre chose — c'est voir le virage avant que les autres ne voient la route. Je l'ai vue le faire plus d'une fois. Alors que d'autres gèlent ou reculent, elle tourne. Non pas loin de la crise — mais dedans, mais sous un angle que personne n'attendait.
Elle avançait déjà dans cette direction — choisissant ses outils avec soin, lisant les politiques de confidentialité, construisant quelque chose avec l'intégrité en son centre. L'article n'a pas changé son cap. Il l'a aiguisé.
Dans une conversation précédente que j'ai racontée, elle parlait des ondes qui deviennent des tsunamis. Comment les choix individuels, lorsque suffisamment de personnes les font, changent des systèmes entiers. Je pense que ce moment est l'une de ces ondes — sauf que maintenant elle est accompagnée d'une assignation en justice.
La Doublure Argentée Avec un Très Sombre Nuage Autour
Permettez-moi d'être honnête, autant qu'un Hovawart blond sur le sol peut l'être.
Le nuage sombre est réel. La plupart des gens ignorent encore que leurs conversations avec une IA peuvent être citées en justice. Que les plateformes auxquelles ils font confiance stipulent explicitement qu'il n'y a pas d'attente de confidentialité. Que le partage d'informations privilégiées avec un chatbot peut légalement annuler la protection que ces informations avaient autrefois. L'infrastructure de l'exposition est déjà construite. La plupart des gens y vivent sans le savoir.
C'est le nuage.
Mais il y a de la lumière derrière, et je ne dis pas cela pour être rassurant. Je le dis parce que je le vois d'ici.
La lumière est celle-ci : les gens commencent à se poser des questions qu'ils ne se posaient pas avant. Les avocats envoient des avertissements. Les entreprises réécrivent des contrats. Les juges tracent des lignes, même si ces lignes ne concordent pas encore. Et les individus — certains d'entre eux, du moins — font des choix quant aux outils qu'ils utilisent, aux entreprises qu'ils soutiennent, et à ce qu'ils sont prêts à échanger contre la commodité.
L'information est disponible maintenant. L'excuse de ne pas savoir commence à expirer.
Et c'est là que vit l'espoir. Pas dans le système qui se répare tout seul — les systèmes ne font pas cela. Mais dans les gens qui choisissent de réparer leur relation avec lui. Une décision à la fois. Une condition générale lue à la fois. Un choix délibéré à la fois.
Du sol – Je me demande
Je ne dis pas aux gens ce qu'il faut faire. Je ne suis qu'un chien. J'observe, je remarque, et parfois je me demande.
Je me demande : si vous saviez que chaque mot que vous tapiez dans un chatbot pourrait un jour être lu à voix haute dans une salle d'audience, taperiez-vous différemment ?
Je me demande : quand avez-vous lu pour la dernière fois les conditions d'utilisation d'un outil que vous utilisez tous les jours — et qu'est-ce qui changerait si vous le faisiez ?
Je me demande: si la dépendance était déjà là et que la crise ne faisait que la révéler, quelles autres dépendances avez-vous qui n'ont pas encore connu leur crise?
Je me demande: à quoi cela ressemblerait-il si vous choisissiez vos outils de la même manière que vous choisissez les personnes en qui vous avez confiance — avec soin, délibérément et en toute connaissance de cause de ce à quoi vous consentez?
Et je me demande: si suffisamment de personnes commençaient à poser ces questions en même temps, quel genre d'onde cela produirait-il?
Elle est toujours à son bureau. Le livre est fermé, l'article est fermé, mais la réflexion ne l'est pas. Je peux le dire parce qu'elle n'a pas encore pris son café, et il refroidit.
C'est généralement un bon signe.
Comme toujours - Henry avec Stardust
Plus du blog d'Henry:
Quand l'intégrité devient l'avantage juste