Contenu
- Entrez dans le Commonwealth de Fallout 4.
- Mon dilemme moral
- À quel point sommes-nous?
- Un saut de fiction
- Impact social
- Gaz sur le feu
- La société réagit
- Note personnelle
- Alors je demande à nouveau: "Suis-je une mauvaise personne?"
Les récits des opprimés sortant de leurs chaînes pour vaincre leurs maîtres sont intemporels. Dans ces récits, l'auditeur a tendance à faire preuve d'empathie vis-à-vis du sort des peuples opprimés, en s'appuyant sur les concepts généralement acceptés de liberté et de liberté. La pratique de l'esclavage est dépassée dans une société moderne et l'idée est uniformément dénoncée par la population en général - comme il se doit.
Mais que se passe-t-il si ces concepts étaient appliqués à des êtres qui n'étaient pas humains, mais des machines très développées? Et si ces machines étaient visiblement indiscernables des vrais humains organiques et étaient programmées avec une intelligence artificielle (IA) si avancée qu’elles imitaient la parole et les émotions humaines de manière transparente? La société continuerait-elle à les considérer comme rien de plus que des créations mécaniques, quelle que soit leur conception avancée? Ces mécanisations d'IA pleinement développées seraient-elles assimilées à l'humanité et seraient-elles acceptées comme l'une des nôtres?
S'ils étaient assimilés, est-ce que tout le monde s'accorderait pour dire que les êtres créés avec l'IA seraient égaux aux humains issus de l'agriculture biologique?
Entrez dans le Commonwealth de Fallout 4.
Au moment d’écrire cet article, j’ai investi plus de six jours de jeu dans Fallout 4. Et non, je n'ai pas encore complété le scénario principal. Cela peut surprendre certaines personnes car ce jeu n’a pas d’aspect multijoueur. Mais ceux qui connaissent la franchise, avec Les rouleaux anciens série de Bethesda, sachez que c’est la normale.
J'ai passé beaucoup de temps dans le Tomber monde, et je peux dire que les braves gens de Bethesda ont créé un univers aussi détaillé que la tradition est profonde. S'appuyant sur les entrées précédentes de la franchise, Fallout 4 se déroule dans le Commonwealth du Massachusetts après une horrible apocalypse nucléaire.
Dans cet avenir alternatif, les ruines du Massachusetts Institute of Technology (MIT) sont appelées Commonwealth Institute of Technology (CIT). Sous les ruines se trouve la base de The Institute, une organisation secrète spécialisée dans le plus haut niveau de technologie de la franchise. L’incroyable accomplissement de l’Institut est l’avancement des synthétiseurs, des androïdes hyperréalistes qui sont devenus indiscernables physiquement des humains et qui possèdent une intelligence artificielle (IA) pleinement développée.
Mon dilemme moral
Bien que ces synthés soient capables de penser de manière indépendante, ils ne sont pas en possession du véritable libre arbitre et sont considérés comme une propriété et non comme des personnes. Ils sont également capables d'éprouver des émotions, complétant ainsi toute l'émulation humaine. Cela a conduit un groupe d'abolitionnistes bien intentionnés qui s'appellent eux-mêmes The Railroad à prendre la responsabilité de libérer ces "esclaves".
Ok, attendez une seconde.
Je peux voir clairement où le récit veut me mener. L’Institut crée ces êtres avec (presque) toute la complexité de l’humanité et refuse alors tout niveau de dignité ou de respect dû. De l’autre côté de la carte, la Confrérie de l’Acier est résolue à détruire non seulement les synthés qu’ils peuvent obtenir, mais aussi à trouver et à détruire totalement l’Institut. Les Synthés constituent un groupe démographique fortement opprimé, traité comme une propriété et blâmé pour tous les maux culturels présents dans leur société pavée. Être chassé simplement pour être simplement ce qu'ils sont n'est pas simplement accepté, certaines personnes le proclament comme un devoir civique juste.
Cela suit la liste de contrôle établie pour l'oppression sociale. Le récit décrit clairement la direction dans laquelle mes émotions devraient me conduire. Que je sois affligé de sympathie pour le sort du synthétiseur et que le fardeau de ma colère soit dirigé vers l'institut, et que la confrérie soit un groupe de grands méchants, et, et ...
Et pourtant, je suis très sympathique aux efforts de l’Institut. Qu'est-ce que cela signifie? Suis-je une mauvaise personne?
À quel point sommes-nous?
Qu'est-ce qui se développe dans le récit de synthèse de Fallout 4 est peut-être ce qui est en train de se passer pour l’informatique et la robotique dans son ensemble. Chaque jour, des progrès sont réalisés dans le monde des prothèses médicales, rendant le mouvement robotique de plus en plus humain. Comme vous pouvez le voir dans la vidéo ci-dessous, nous en sommes maintenant au point d'associer la robotique directement à une interface machine-homme:
Cette vidéo montre combien de voies neuronales ont été cartographiées et à quel point nous nous en tenons à émuler toute la gamme des mouvements humains.
Combien de cela peut être appliqué à un robot indépendant? Boston Dynamic a récemment publié une vidéo montrant les progrès de son dernier projet, "Atlas". Ils vont même jusqu'à intimider et bousculer quelques-uns des robots pour démontrer leur récupération d'équilibre:
Pour ce qui est de l’esprit synthétique, l’esprit décisionnel le plus populaire pourrait être le supercalculateur Watson, qui a fait ses débuts au monde le Péril il y a quelques années. Watson est capable d'accéder à d'immenses bases de connaissances et de récupérer des informations en fonction du langage utilisé pour les demander. Considérez-le comme un moteur de recherche extrêmement puissant tel que Google, mais ignorez tout ce qui est absurde. Sur la page Web IBM, cette vidéo est actuellement présentée:
Bien que ce qui précède semble un peu froid et mécanique, il existe également des avancées dans lesquelles un thérapeute virtuel (nommé Ellie) a été conçu pour identifier le SSPT chez le personnel militaire par le biais du biofeedback.
Ce modèle permet à un système informatique de suivre et d'analyser divers aspects de la communication verbale et non verbale d'une personne et de déterminer son bien-être mental. En se basant sur les informations en temps réel de la parole du patient, de son langage corporel, de ses fluctuations vocales et même de certaines réactions biologiques subconscientes, Ellie est en mesure de les guider tout au long d'une session de conseil virtuelle. Les programmeurs étaient assurés d’ajouter à la clause de non-responsabilité que Ellie n’était pas une thérapeute, mais pour que nous sachions bien que ce programme ne porterait pas le jugement final aux patients.
Un saut de fiction
Certes, c’est moi qui laisse aller mon imagination un peu sauvage. (Bien, cela peut être plus qu'un peu.) Les instances énumérées ci-dessus sont des projets complètement séparés avec des objectifs complètement différents, et ne désignent pas nécessairement des robots quasi-humains dans le futur. La prothèse présentée dans la première vidéo est uniquement utilisée pour recréer les mouvements des bras de l'homme. Bien que ce soit (extrêmement) impressionnant, il ne s'agit en aucun cas du héraut des légions robotiques sortant de leurs chaînes. Même Atlas a besoin de codes QR enregistrés sur des emplacements stratégiques autour de son environnement pour naviguer et interagir correctement. De même que Watson et Ellie, ce sont des prouesses techniques impressionnantes, mais elles sont loin d'être sensibles.
Même si ces technologies devaient être intégrées, ce qui, je suppose, irait au-delà d’une entreprise gigantesque, elles se limiteraient toujours à ce que les concepteurs ont programmé. Ils n'auraient pas la liberté illimitée de l'esprit humain que nous chérissons tant.
Impact social
Ce n'est pas la première fois que ce concept est abordé. Mis à part la littérature classique d'Issiac Asimov Je robot, il y a aussi le film de 2001 A.I. et 2015 Ex Machina. Il est clair que l’idée de robots ressemblant à la vie a été avec nous pendant un certain temps et avec des notions différentes sur leur montée. Quoi Fallout 4 Apporter à la discussion est quelque chose de tout à fait différent: une révolution sociale entourant l'existence même du robot.
Encore une fois, je répète que je comprends parfaitement le récit élaboré. Je suis tout à fait d'accord avec l'idée de liberté, de volonté libre, d'indépendance et de droits égaux pour tous, indépendamment de la démographie quantifiable. Liberté et égalité pour tous!
MAIS....
Les synthés ne sont PAS des gens! Dans la fiction du jeu, ce sont des outils, bien que très développés, qui ont été fabriqués dans le but d'aider l'humanité. Oui, ils sont devenus capables de parler couramment et de processus de pensée d'ordre supérieur, mais ce sont des machines. Ni plus ni moins.
Et pourtant… pourquoi je me sens si coupable de les considérer comme tels?
Gaz sur le feu
Les gens ont naturellement peur de l'inconnu. C’est une tactique classique utilisée par les écrivains d’horreur: le gros méchant monstre est plus effrayant s’il a des origines, des apparences et des motifs inconnus. Nous avons tendance à pécher par excès de prudence et de défense. Considérez que si nous ne permettons pas à quelque chose dans nos vies, notre vie reste inchangée. Si nous permettons à quelque chose dont nous ne savons rien, nos vies pourraient changer et elles pourraient changer pour le pire.
Si l’Institut produisait simplement ces synthés en tant que produit de service, le monde pourrait être un peu plus réceptif. Travaillant au sein de la tradition établie du jeu, ils ne représenteraient guère plus qu'un M. Handy avancé. Il aurait fallu un certain temps aux citoyens pour s’habituer à eux, mais il est probable qu’ils se seraient bien assimilés à la société.
Cependant, l'Institut ne s'est pas contenté de les produire. Ils ont remplacé les civils par des doppelgangers synthétisés dans le but d'influencer la société par une infiltration secrète. Ce n’est donc pas simplement l’apparition d’un nouveau groupe démographique, mais ce groupe démographique s’engage activement dans une campagne hostile. Ce n'est certainement pas le moyen de bâtir la confiance et l'acceptation!
La société réagit
Ce qui finit par se développer, ce sont trois écoles de pensée. Premièrement, les ministres sont plus ou moins apathiques. Ils sont au courant de l’Institut et de la présence de synthés, mais ils sont plus soucieux de stabiliser le Commonwealth dans l’intérêt de tous. Deuxièmement, la Fraternité de l'acier considère l'Institut et ses synthés comme une menace claire et immédiate. Ils ont juré d'éliminer leur existence et d'envoyer l'Institut dans son intégralité en ruines. Enfin, The Railroad a accepté l'idée que, puisqu'ils sont capables d'afficher des émotions humaines, ils doivent être égaux à ceux-ci. S'ils doivent être égaux aux humains, ils méritent les mêmes libertés et doivent donc être libérés. Toutes les perspectives ont un mérite subjectif, dépendant de votre propre ensemble de valeurs.
À mesure que ces différentes pensées commencent à s’imposer à plus de gens, leur vision perçue devient plus définie. Ils commencent à adopter ces croyances dans le cadre de leur identité et commencent à chercher des personnes partageant les mêmes valeurs.
Alors que ces groupes commencent à recruter de nouveaux membres, la Réglementation par l’Identification entre en jeu et ces valeurs deviennent le fondement de nouvelles sous-cultures. Au fur et à mesure que ces sous-cultures grandissent, elles renforcent leur identité et deviennent finalement un mouvement social. Votre croyance préexistante et votre structure de valeurs dicteraient les sous-cultures (lire: Factions principales du jeu) avec lesquelles vous graviteriez et vous identifieriez éventuellement.
Dans le cas de Fallout 4, cela serait axé sur la façon dont vous avez intériorisé la présence de synthés. Étant donné que, pour la plupart, les humains se considèrent comme supérieurs aux autres animaux de la terre, tout ce qui est différent de l’Humain serait interprété comme "moins" que l’humain. À cet effet, il serait logique que tout ce qui est introduit dans un monde dominé par l'homme soit donc considéré comme un sous-humain par défaut.
Note personnelle
Personnellement, je me considère comme un homme compatissant. Je donne régulièrement à différents organismes de bienfaisance, participe à divers événements caritatifs et déploie des efforts pour minimiser mon impact sur la planète. Mais comme je m'efforce de regarder cette situation à travers un objectif, je ne peux pas m'empêcher de penser: "Yo! Les gars! Ce sont des ROBOTS!" Je veux dire, je comprends pourquoi je suis supposé être sympathique à leur sort. Comme indiqué précédemment, personne ne devrait être opprimé. Je m'oppose à toute idée qu'un particulier devrait être acheté ou vendu comme une propriété.
Mon esprit subconscient me dit que je devrais agir contre les intérêts de l'Institut et que les actions de The Brotherhood sont trop haineuses pour être considérées comme une solution utile. Mon esprit conscient me dit que l’Institut est la meilleure chance du Commonwealth de reconquérir le monde d’avant-guerre et de guérir la planète et que les autres factions n’ont pas l’aptitude cognitive à penser aussi longtemps à l’avance.
Alors je demande à nouveau: "Suis-je une mauvaise personne?"
Je ne pense pas. Les synthés de Fallout 4 sont à leur machine même. Ce sont des machines extrêmement complexes, mais néanmoins des machines. Le saut de fiction était nécessaire dans ce jeu pour amplifier une réaction émotionnelle. Cependant, nos réactions sont généralement irréfléchies et reposent sur des informations immédiates. Une réponse plus critique, prenant en compte l’origine et l’intention d’un synthétiseur, consisterait à les considérer comme les machines de service qu’ils sont.
Si nous devions arriver au point où la véritable intelligence artificielle se réalise pleinement, nous pourrions très bien voir des événements similaires se dérouler. Les synthétiseurs de la vie réelle pourraient être développés au point où ils deviennent conscients et commencent à interagir avec la société en général. Si cela se produit, j'espère que la transition sera suffisamment progressive pour que l'humanité puisse la gérer.