Weeknote 2025 #7

Repenser l'IA

Dans AOC, Dominique Boulier propose de repenser l'IA et de sortir du paradigme connexionniste.

Un sommet de l’IA ne doit pas viser une harmonisation impossible entre des technologies portées par des régimes dictatoriaux et des firmes irresponsables et prédatrices. Il doit affirmer que, après la dérive des plateformes de réseaux sociaux, après la captation de rentes des plateformes de commerce et d’information, il est temps de faire sécession et de développer nos propres modèles d’IA.

Le modèle européen à venir doit rompre avec ces croyances au tout statistique et faire entrer la sémantique en jeu que d’autres traditions d’IA d’inspiration symbolique continuent à faire vivre.

Pour lui, cela passe par une valorisation du travail d'annotation humaine qu'il propose de remettre au centre.

les IA génératives qu’on nous vend ne peuvent se passer d’une description du monde, d’une classification du monde, d’une ontologie fondationnelle, malgré tout ce que les firmes prétendent. Mais alors, pourquoi toujours mettre l’accent sur la puissance de calcul, sur le nombre de paramètres, pourquoi occulter tout le travail de pondération de ces paramètres et évacuer la dépendance structurelle à ces annotations ?

L'annotateur est en fait un expert.

Les annotateurs font partie de ces experts de fait, mais on ne les désigne jamais sous ce vocable, plus noble et qui obligerait à les payer correctement.

Il est temps de reconnaître la place essentielle de l’expertise humaine pour faire entrer de la sémantique dans ces modèles, comme le faisait l’IA symbolique, et d’abandonner la vision fréquentiste qui est la leur. Cette expertise vaut avant tout pour sa capacité à valider la pertinence des descriptions du monde ; c’est ce que l’on ne peut déléguer à une quelconque machine qui n’a ni l’histoire, ni le corps, ni l’expérience vécue du monde.

Sa proposition revient à arrêter de concevoir l'IA comme indépendante d'un groupe social et construire des IA propres à chaqye groupe.

Il s’agit dans tous les cas de réencastrer le calcul dans la sémantique et dans le « design organisationnel » propre à chaque monde social. En effet la tendance au désencastrement du calcul, expression dérivée de Polanyi, est un risque que l’on mesure de plus en plus précisément avec ses systèmes de probabilité fréquentiste qui prétendent à la domination.

Les LLM sont une solution seulement dans un monde où l’intensité capitalistique n’est pas un problème, pas plus que ne le sont les effets climatiques, la responsabilité juridique, le droit du travail, le droit d’auteur ou le droit de la privacy, un monde étatusunien libertarien.

Sécurité de l'IA

Un peu étonné que *Mediapart” mette en avant les arguments de Stuart Russell sur les risques de l'IA plutôt que les arguments de celles (et ceux mais ce sont majoritairement des femmes) qui mettent en avant les effets néfastes concrets de l'IA. Russell fait plutôt partie de ceux qui mettent l'accent sur les risques existentiels liés à l'apparition supposée d'une intelligence artificielle générale. A l'inverse Timnit Gebru, Emily Bender, Margaret Mitchell, Meredith Whitaker et Kate Crawford mettent plutôt l'accent sur les biais et les discriminations concrets des algorithmes d'aujourd'hui (voir https://hackmd.io/@pac/weeknote11#Moratoire).

Une question de perspective

Artificial Intelligence is facing a crisis: humans are consuming far too many precious resources that AI needs to thrive. Every sip of water you take and every light you turn on could be sustaining the AI systems that uphold your digital conveniences.

Découvert via @louisderrac@framapiaf.org

Grisaille

Super travail du FigData sur l'analyse de l'ensoleillement depuis 6 mois.

Depuis plusieurs mois, une grande partie de la France vit sous un ciel bas et morne. Au point qu’une simple éclaircie prolongée devient un fait notable. Et trois journées consécutives de soleil un phénomène si rare qu’il est tout de suite souligné par les spécialistes.

D’après les relevés quotidiens de Météo-France, Paris a connu trois jours consécutifs de soleil du 1er au 3 février dernier. Un fait notable, puisqu’une telle séquence n’avait pas été observée depuis le 22 octobre. Dans le centre de la France, Orléans n’a pas connu trois journées ensoleillées consécutives depuis le 14 septembre – près de cinq mois. À Bourges, bien que le soleil ait réussi à percer durant trois jours en février, il faut remonter à août pour retrouver une période similaire. Dans l’est de l’Hexagone, le triste record appartient à la ville de Nancy, qui n’a pas connu trois jours de beau temps successifs depuis le 19 septembre.

Faux avis

Pour les 20 ans de Google Maps, Le Monde s'intéresse à la détection des faux avis par la DGCCR.

Ce sont ces commentaires falsifiés que traque, depuis septembre 2023, l’outil Polygraphe, utilisé par la direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF).

Polygraphe aspire à grande échelle les données relatives aux pages de professionnels ainsi que celles de chaque utilisateur ayant publié un avis. Ces informations sont ensuite analysées selon plusieurs « indicateurs de suspicion », à propos desquels la DGCCRF ne communique pas – l’administration n’a pas donné suite aux demandes d’interview du Monde –, et agrégées. Chaque professionnel se voit ensuite attribuer un « score global de suspicion », comme l’explique la Commission nationale de l’informatique et des libertés (CNIL) dans un avis non contraignant rendu sur l’outil, en décembre 2022.

Trump 2

ProPublica s'organise pour documenter le mandat de Trump.

PAC – @pac@mastodon.social

S'abonner via le Fediverse (@pac@write.apreslanu.it) ou via flux rss (https://write.apreslanu.it/pac/feed/)