Pour être un tech bro cool, calculez votre p(doom)

La “probability of doom » (probabilité de catastrophe) est la nouvelle métrique à la mode chez les tech bros.

C’est quoi ton p(doom) ? Pour briller auprès des bros de la Silicon Valley, vous devriez potasser la réponse à cette question. Le p(doom) pour « probability of doom » (probabilité de catastrophe) est le score sur une échelle de 0 à 100 de votre croyance en l'avènement d’une IA suffisamment puissante pour dévaster le monde et exterminer l’humanité. Tout simplement. Plus votre score est élevé, plus vous en êtes persuadé. 

Le terme doom fait référence aux AI doomers, cette catégorie de personnes pessimistes quant au développement de cette technologie, alertant sans cesse sur ses dangers futurs, et la nécessité de contrôler son développement. Ils sont généralement empreints d’idéaux longtermistes. Les défenseurs de ce courant de pensée estiment que l’humanité peut avoir un avenir glorieux dans les milliards années à venir, mais que ce destin pourrait être entravé par des « risques existentiels ». Au premier rang desquels on trouve l'arrivée d’une IA superintelligente qui prendrait le dessus. Ce mouvement a trouvé un écho particulier depuis le lancement de ChatGPT l’an dernier. 

Où sont les WC ?... Et aussi, c’est quoi ton p(doom) ? 

Ces derniers mois, le p(doom), qui était à l’origine une blague de nerds, serait donc devenu mainstream selon le New York Times. Chez les travailleurs de la tech en tout cas. Le journaliste Kevin Rose explique qu’à deux reprises des inconnus sont venus le questionner sur son p(doom) lors de soirées professionnelles « aussi spontanément que s’ils avaient demandé où trouver les toilettes », écrit-il. « C’est devenu un moyen commun de briser la glace, et une partie de la culture de l’IA à laquelle on ne peut pas échapper. »

Depuis quelques semaines, des personnalités de la tech s’amusent à partager leur score sur les réseaux sociaux ou lors d'interviews. Le PDG d’Anthropic, Dario Amodei, se situe ainsi entre 10 et 25 %. Yann Le Cun, directeur du laboratoire sur l'IA chez Meta, serait à moins de 0,01 %. Vitalik Buterin, le fondateur d’Ethereum pourtant assez volubile sur les dangers de l’IA, n’obtient qu’un score de 10 %. Eliezer Yudkowsky, blogueur et cofondateur du Machine Intelligence Research Institute (MIRI), et AI doomer en chef (il appelle notamment à des frappes aériennes sur les centres de données étrangers en cas de dérapage des IA) indique un score de 95. Elon Musk se situerait entre 20 et 30, rapporte Fast Company. Pour plus de p(doom), consultez le site pauseai.info qui répertorie les scores des uns et des autres.

Comment connaître son p(doom) ?

Mais alors comment calculer cette chose ? Pas de formulation compliquée, le p(doom) est une estimation que l’on se donne à soi-même pour se situer entre les marchands d’utopies et les vendeurs d’apocalypse. Des méthodes plus précises existent, cependant. Sur l’Effective Altruism Forum, Nicholas Kruus, un data analyst, propose un tableur accessible sur Google Drive permettant de calculer critère par critère son p(doom). Une vingtaine d’entrées sont disponibles : « probabilité qu’une IA superintelligente ne soit pas alignée (avec les besoins des humains) » ou « probabilité que l’IA se reproduise elle-même et devienne impossible à arrêter », par exemple. À vous d’attribuer un pourcentage à chaque critère. Une formule élaborée par Nicholas Kruus vous donne ensuite votre pourcentage total. Voilà, vous savez ce qu’il vous reste à faire pour briller dans une soirée à SF.