Weeknote 50
from pac
Claude's insights and observations
Dans Platformer, Casey Newton donne un aperçu de l'outil d'Anthropic de détection de contenus inauthentiques. L'outil s'appelle CLIO pour Claude's insights and observations et fait de la détection de topics dans les instructions
Under development for about six months, Clio works by analyzing what a conversation is about, and then clustering similar conversations around similar themes and topics.
Clio creates a title and summary for those clusters, and reviews it again to make sure personal information is not included.
Analysts can then search the clusters, or explore Claude usage visually. Clio offers a visual interface similar to Obsidian’s graph view, linking clusters based on the frequency of discussion and how they may be related to each other.
Less popular queries often appear in the visualization as islands — and it’s these islands that can highlight unknown unknowns.
Clio revealed, for example, that Claude was repeatedly refusing to answer questions about the role-playing game Dungeons & Dragons. As people asked the chatbot for help planning their attacks, Claude often assumed that users were planning actual violence.
- https://www.platformer.news/how-claude-uses-ai-to-identify-new-threats/
- https://www.anthropic.com/research/clio
- https://simonwillison.net/2024/Dec/12/clio/
OpenAI
Suchir Balaji, un ex employé d'OpenAI qui dénonce la violation de droits d'auteur par l'entreprise, s'est suicidé.
Bipolarisation de la vie politique
Dans sa dernière chronique dans Le Monde, Thomas Piketty défend la bipolarisation de la vie politique. Je suis un peu étonné qu'il en vienne à souhaiter l'alliance de la droite dite républicaine et de l'extrême droite.
A droite, il est temps que LR et les fractions les plus droitières du parti macroniste acceptent l’idée qu’ils doivent former une coalition majoritaire avec le RN. C’est déjà ce qu’ils ont fait pour voter la loi « immigration » et bien d’autres textes (comme la loi « antilocataires »).
Il est temps d’assumer ouvertement l’union des droites, faute de quoi cela sera imposé tôt ou tard par les urnes. C’est aussi ce qui contraindra le RN à sortir des postures faciles et à droitiser son discours économique et budgétaire, contribuant ainsi à l’émergence d’une nouvelle bipolarisation.
Je ne suis pas très convaincu que tout soit souhaitable au nom du retour du clivage droite-gauche. Ce genre de prise de position ne prend pas en compte les effets d'une potentielle alliance entre la droite dite républicaine et l'extrême droite sur les populations susceptibles d'être discriminées et les spécificités de l'extrême droite de manière générale.
Portrait de Gael Varoquaux
Super portrait de Gael Varoquaux (@GaelVaroquaux@mastodon.social) dans Le Monde par David Larousserie.
Je découvre au passage qu'il développe le concept d'intelligence artificielle tabulaire avec des modèles tabulaires préentrainés de type CarteAI (https://soda-inria.github.io/carte/).
Notifications trompeuses
L'IA d'Apple fait des erreurs grossières de notification.
https://bsky.app/profile/nicolasberrod.bsky.social/post/3ldbwrmw2mi2b
IA et manipulation de l'information en période électorale
Sayash Kapoor et Arvind Narayanan analysent dans la newsletter AI Snake Oil l'usage malveillant d'intelligence artificielle en période électorale en s'appuyant sur les cas relevés par la presse au cours de l'année 2024.
We analyzed every instance of AI use in elections collected by the WIRED AI Elections Project, which tracked known uses of AI for creating political content during elections taking place in 2024 worldwide. In each case, we identified what AI was used for and estimated the cost of creating similar content without AI.
We find that (1) half of AI use isn't deceptive, (2) deceptive content produced using AI is nevertheless cheap to replicate without AI, and (3) focusing on the demand for misinformation rather than the supply is a much more effective way to diagnose problems and identify interventions.
Sur les 78 usages de l'IA en contextes électoral, seuls 39 usages peuvent être considérés comme sans intention trompeuse.
Sur les 39 exemples trompeurs, les auteurs cherchent à quantifier le coût de réaliser la même opération sans IA.
For each of the 39 examples of deceptive intent, where AI use was intended to make viewers believe outright false information, we estimated the cost of creating similar content without AI—for example, by hiring Photoshop experts, video editors, or voice actors.
Nostalgia
Le Washington Post analyse le phénomène de la nostalgie à travers une incroyable dataviz. Le pic est particulièrement fort pour la musique. C'est la musique de notre adolescence qu'on a tendance à considérer comme la meilleure de tous les temps.
Exposition aux pesticides
Carte de France de l'exposition aux pesticides : https://bjnnowak.quarto.pub/journey_to_france/
A lire
- Les barbares, les bisounours et les baudets: https://bzg.fr/barbares-bisounours-baudets/ par @bzg@fosstodon.org. Ça me rappelle beaucoup la lecture du Soin des choses de David Pontille et Jérôme Denis.