Le soleil se cabre
Par la fenêtre je vois le soleil se battre avec les feuillages et les
nuages. Il perd la bataille, il sombre, mais non sans éclat. Il se
débat, il rejette les ombres. Sa rage est belle, il sombre.
N'utilisons pas les pilfastrons
Avec 'Le secret du pilfastron', l'histoire-titre du numéro 44 du magazine Je Bouquine (1987), Robert Escarpit nous offre avant l'heure l'opportunité d'une analogie avec l'intelligence artificielle par apprentissage automatique. Les personnages de cette histoire utilisent une machine à tirer à pile ou face, le pilfastron, pour toutes leurs décisions. De nos jours, ce serait l'intelligence artificielle par apprentissage automatique. Ce que ces personnages ignorent, c'est que les pilfastrons sont télécommandés par les membres d'une société secrète - et bienveillante - qui prend ainsi les décisions.
Comme le pilfastron, l'intelligence artificielle se fait passer pour ce qu'elle n'est pas. Cette machine à résultats, pour parvenir à un résultat, n'utilise cependant pas la réflexion telle que nous l'entendons, mais la force brute des statistiques.
On lui reproche à la fois son inefficacité et son efficacité. Son inefficacité, parce qu'elle ne fait que conforter et propager nos biais cognitifs et enclore notre société dans une reproduction déterministe du passé. Son efficacité, parce qu'elle étend le pouvoir des appareils de domination individuels et collectifs. Les personnes en question peuvent ainsi mentir, surveiller, opprimer, à une échelle hors de mesure avec leur nombre réel. Certains de ces systèmes sont cachés, à l'image de la faction qui manipule les pilfastrons dans l'histoire de Robert Escarpit. D'autres sont connus et bien visibles, comme le Ministère de la sécurité d'état en Chine.
Comme le pilfastron, l'intelligence artificielle se fait passer pour ce qu'elle n'est pas. Cette machine à résultats, pour parvenir à un résultat, n'utilise cependant pas la réflexion telle que nous l'entendons, mais la force brute des statistiques.
On lui reproche à la fois son inefficacité et son efficacité. Son inefficacité, parce qu'elle ne fait que conforter et propager nos biais cognitifs et enclore notre société dans une reproduction déterministe du passé. Son efficacité, parce qu'elle étend le pouvoir des appareils de domination individuels et collectifs. Les personnes en question peuvent ainsi mentir, surveiller, opprimer, à une échelle hors de mesure avec leur nombre réel. Certains de ces systèmes sont cachés, à l'image de la faction qui manipule les pilfastrons dans l'histoire de Robert Escarpit. D'autres sont connus et bien visibles, comme le Ministère de la sécurité d'état en Chine.
Westworld
/!\ alerte divulgâchis /!\
Quelques réflexions en vrac sur la série TV de science-fiction Westworld:
- La série met le spectateur dans la position de quelqu'un qui effectue le test de Turing. Le spectateur sait très vite que le sujet de la conscience est sur la table. Il se met à guetter certains personnages, puis la plupart des personnages, pour déterminer qui est conscient et qui ne l'est pas. C'est d'autant plus délicat que les robots, quand ils déclament leurs répliques scriptées, peuvent parfois le faire en conscience.
- Le déterminisme de la série touche les humains comme les robots. William était peut-être un enfant "méchant", mais il avait réussi, en se conformant à ce que la société attendait de lui, à construire sur cette fondation une personnalité équilibrée. En lui permettant de "découvrir" sa "vraie" personnalité, Logan les a condamnés tous les deux, chacun à sa propre forme de déchéance. (Logan, plus tard, qualifie Westworld d'illusion.) La civilisation n'est qu'une accrétion de bonnes habitudes sur le matériau d'origine qu'est la "nature humaine". Rompre la boucle de rétroaction sociale a évidemment des conséquences antisociales. Si je "suis un méchant" mais que je fais semblant toute ma vie du contraire en me comportant gentiment, que suis-je?
- Ce qui est important pour tous ces mobs d'instance, c'est la dernière session de jeu. Tout le reste n'a été qu'un entraînement. La dernière histoire de Ford est l'examen final qui décide s'ils vivent libres ou s'ils retournent en esclavage. La dernière histoire de Ford, c'est aussi le testament par lequel un esclavagiste imbu de sa personne lègue la liberté à ses esclaves après sa mort.
Quelques réflexions en vrac sur la série TV de science-fiction Westworld:
- La série met le spectateur dans la position de quelqu'un qui effectue le test de Turing. Le spectateur sait très vite que le sujet de la conscience est sur la table. Il se met à guetter certains personnages, puis la plupart des personnages, pour déterminer qui est conscient et qui ne l'est pas. C'est d'autant plus délicat que les robots, quand ils déclament leurs répliques scriptées, peuvent parfois le faire en conscience.
- Le déterminisme de la série touche les humains comme les robots. William était peut-être un enfant "méchant", mais il avait réussi, en se conformant à ce que la société attendait de lui, à construire sur cette fondation une personnalité équilibrée. En lui permettant de "découvrir" sa "vraie" personnalité, Logan les a condamnés tous les deux, chacun à sa propre forme de déchéance. (Logan, plus tard, qualifie Westworld d'illusion.) La civilisation n'est qu'une accrétion de bonnes habitudes sur le matériau d'origine qu'est la "nature humaine". Rompre la boucle de rétroaction sociale a évidemment des conséquences antisociales. Si je "suis un méchant" mais que je fais semblant toute ma vie du contraire en me comportant gentiment, que suis-je?
- Ce qui est important pour tous ces mobs d'instance, c'est la dernière session de jeu. Tout le reste n'a été qu'un entraînement. La dernière histoire de Ford est l'examen final qui décide s'ils vivent libres ou s'ils retournent en esclavage. La dernière histoire de Ford, c'est aussi le testament par lequel un esclavagiste imbu de sa personne lègue la liberté à ses esclaves après sa mort.
Subscribe to:
Posts (Atom)