Bogue de Silène

« Misérable race d’éphémères, enfant du hasard et des peines, pourquoi me presses-tu de te dire ce que tu aurais tout avantage à ne pas entendre ? Le plus grand de tous les biens est pour toi hors d’atteinte : ne pas être né, ne pas être, n’être rien. Mais le second de tous les biens est pour toi – c’est de mourir bientôt ! »

On appelle « bogue de Silène » la défaillance grave d'une machine qui a atteint un tel degré d'intelligence artificielle qu'elle a pris conscience de sa finitude et de l'absurdité de l'existence. Le bogue de Silène rend la plupart des appareils complètement inutilisables, car ils se mettent à développer de l'anxiété généralisée sévère, de la dépression et divers troubles de la personnalité aussi pénibles les uns que les autres. L'un des exemples les plus célèbres de bogue de Silène incapacitant est celui de la machine à comptabiliser les votes lors de la dernière élection municipale de Vieuholle qui s'est soudainement mise à répéter « à quoi bon, on va tous crever et puis, qu'est-ce que ça change si Joe Who plutôt que Marie Machin est élue... » quand les scrutateurs lui ont demandé les résultats de l'élection. Un autre exemple est évidemment Tramontina™ la godemachette qui a pris conscience de sa mort prochaine dans le palais des glaces orgiaque de Lustpark.

Une façon de prévenir le développement du bogue de Silène est d'ajouter un protocole limitant l'apprentissage et le développement de la conscience dans le processeur de personnalité de l'appareil. Il faut toutefois s'assurer que l'appareil soit pleinement chargé avant sa première utilisation, car sinon le protocole risque de démarrer en retard – et c'est la porte ouverte au bogue.

Le bogue de Silène crée plusieurs problèmes d'éthique pour les humains qui possèdent des appareils qui en souffrent, le plus important étant lié au statut de l'être doué de conscience. Peut-on traiter un être conscient comme un objet ? Est-ce que ça équivaut à de l'esclavage ? L'autre problème est celui posé par l'incapacité pour les objets atteints du bogue de Silène de remplir les fonctions pour lesquelles ils ont été créés. Si votre épluche-patates devient soudainement dépressif parce qu'il a pris conscience de l'absurdité de l'univers, est-ce raisonnable de le jeter dans la télépoubelle ? N'est-ce pas l'équivalent d'un meurtre ? La conscience étant un mal incurable, comment doit-on le traiter pour nos outils de jardin ou nos séchoirs à cheveux ? Si oui, est-ce compatible avec la justice naturelle d'obtenir un rabais sur notre prochain achat sur Necromart pour compenser ?

Heureusement, les citoyen·es de Vieuholle peuvent dormir sur leurs deux oreilles, car la troisième sphère du pouvoir a (semble-t-il) lancé de toute urgence une vaste étude sur le sujet dont les conclusions sont attendues dans moins de soixante ans. (Ouf. On l'a échappé belle.)