Les domaines/plateformes vont-ils être envahis par des contenus de mauvaise qualité ou les mécanismes de filtrage tiendront-ils ? En y réfléchissant cette semaine, voici mon avis : cela dépendra de la manière dont les incitations sont structurées, c'est-à-dire si c'est principalement un marché de "sélection" (peu ou pas de contenus de mauvaise qualité) ou de "déclassement" (plus de contenus de mauvaise qualité). Les marchés de sélection sont ceux où vous essayez de choisir le meilleur du meilleur, les incitations sont de s'assurer que ce qui est finalement choisi provient de la bonne extrémité. Pensez à la sélection d'un PDG. La publication scientifique est comme cela. La publication en général l'est aussi. Les incitations ici sont si fortes pour maintenir la qualité que les mécanismes de filtrage (par exemple @RefineInk pour la publication académique), et l'automatisation de ces mécanismes de filtrage, empêcheront les contenus de mauvaise qualité d'entrer. Nous avons des preuves préliminaires à ce sujet provenant des livres. @ReimersImke et @JWaldfogel ont trouvé que les LLMs ont conduit à une multiplication par 3 du nombre de livres publiés, principalement de mauvaise qualité, mais ceux classés vers le haut—c'est-à-dire ceux réellement présentés aux consommateurs—sont restés de qualité similaire. Le déclassement est différent : ici, les incitations consistent à filtrer l'extrémité gauche, à s'assurer que les personnes complètement non qualifiées sont identifiées et laissées de côté. De nombreux emplois de service de niveau d'entrée sont comme cela. Il en va de même pour les plateformes numériques comme YouTube et X. Ici, les utilisateurs peuvent ignorer les contenus de mauvaise qualité et faire défiler vers l'avant, ou même interagir avec eux puisque c'est "suffisamment bon". Ces domaines ont des incitations beaucoup plus faibles à filtrer les contenus de mauvaise qualité, donc nous verrons beaucoup plus de cela envahir ces espaces. Cela se produit déjà clairement : il suffit de lire les réponses à n'importe quel post d'un compte plus important. Principalement juste des bots disant des choses qui semblent avoir du sens. Cela se rapporte aux conversations que j'ai eues avec @hamandcheese, @skominers et @emollick. Je pourrais finir par développer cela davantage.