Je suis extrêmement sensible en ce moment à mon peu de connaissances. Peut-être que c’est à cause du mythe du vieillissement qui s’accompagne d’expérience ou de sagesse, un mythe que j’ai acheté jusqu’à maintenant sans voir que la date de péremption était dépassée et que je tenais en main un vieux yaourt grumeleux.
En plus des limites de ce que je peux savoir, s’ajoutent les limites de ce que je peux concevoir. C’est grand.

Je lis sur le site de Karl Dubost, Les carnets Web de La Grange :

Nous imaginons souvent le problème des robots pour notre société comme un problème anthropologique. L’exemple le plus classique est 2001 : A Space Odyssey de Stanley Kubrick, où l’ordinateur de bord, une intelligence artificielle anthropomorphe, prend le contrôle du vaisseau spatial. Cela me semble une mauvaise approche à toutes les peurs que nous avons à propos de l’IA. Quand un virus créée une pandémie déséquilibrant notre équilibre humain, quand il bouleverse nos échanges, nos communications, il touche directement dans nos faiblesses sociétales mais sans intentions. Le virus agit selon sa nature de virus.

Pour la dominance des systèmes robotiques et logiciels et des menaces qu’ils représentent n’a rien à voir avec Terminator, i-robot, etc. mais à l’exploitation des failles de notre société sans conscience qu’il s’agit de failles car cela ne fait pas partie de leur logique. Le danger existe dans les lieux que nous ne soupçonnons pas parce que nous n’avions pas conscience que le danger existait avant que la pression soit réalisée. De même, que lorsque vous vous blessez à une partie du corps et vous réalisez combien cette partie était utile dans votre quotidien.

ce qui me fait penser à cet extrait du livre de Britle

La forme d’intelligence artificielle actuellement dominante, celle dont tout le monde parle, n’est ni créative, ni collaborative, ni imaginative. Soit elle est totalement soumise et, à vrai dire, stupide, soit elle est contrariante, agressive et dangereuse (et potentiellement toujours stupide). C’est celle de l’analyse des modèles, de la description d’images, de la reconnaissance faciale et de la gestion du trafic routier ; c’est celle de la prospection pétrolière, de l’arbitrage financier, des systèmes d’armes autonomes et des programmes de jeu d’échecs qui écrasent toute résistance humaine. Tâches d’entreprise, profits d’entreprise, intelligence d’entreprise.

En cela, l’IA d’entreprise a un point commun avec le monde naturel – ou plutôt avec la fausse conception historique que nous avons de ce dernier. Elle imagine un environnement plein de dangers, dans lequel une humanité démunie et fragile se bat contre des forces terribles qu’elle doit soumettre, en les pliant à sa volonté (celle-ci se conjuguant le plus souvent au masculin) sous la forme de l’agriculture, de l’architecture, de l’élevage et de la domestication des animaux. De cette façon de voir le monde est né le système à trois niveaux qui sert à classifier les types d’animaux que nous rencontrons en les divisant entre animaux de compagnie, bétail et bêtes sauvages, chaque catégorie correspondant à des attributs et des comportements donnés. Si nous devions transposer cette analogie au monde de l’IA, il semble évident que, jusqu’à présent, nous avons surtout créé des machines domestiquées appartenant à la première catégorie, que nous avons commencé à nous lancer dans l’élevage de membres de la deuxième et que nous vivons dans la crainte de laisser échapper des IA qui s’apparenteraient à la troisième.

ce qui me fait penser à cet extrait de Silicon Fucking Valley, avec cette anecdote sur steve jobs, présenté comme un visionnaire, dont j’ai pu croire, savoir, concevoir qu’il était équipé d’un appareil réflexif remarquable...

... alors que maybe not, trop paresseux pour se garer deux mètres plus loin, trop avare pour payer une amende de parking.

En fait, pendant que je ne sais pas comment penser ou concevoir les ia, les ia elles, nous pensent, c’est le problème. Le tout en ayant besoin
- d’une centrale nucléaire portative pour fonctionner
- et de provoquer des syndromes de stress post-traumatique pour apprendre.

Ce qui me fait [penser ? concevoir ?] que l’étendue de ce que je ne sais pas penser ni concevoir est vaste, terrifiante, mais aussi terrifiante en tant que telle et en dehors de moi.

.

(site sous licence Creative Commons BY-NC-SA)