Bewustzijn en manipulatie van kunstmatige geesten

In de jaren tachtig dicteren de militaire leiders van de Verenigde Staten van Amerika de nieuwe regels voor de militaire defensieplanning defizeker effectief.

Het leger is ervan overtuigd dat, om snel te kunnen reageren op de agressie van een vijandige staat, de USSR, iedere persoon in de commandostructuur moet worden ontheven van zijn rol en moet worden vervangen door een computersysteem dat in staat is snel en goed te beslissen wanneer het nodig is. tijd om een ​​mondiale thermonucleaire oorlog te ontketenen.

“We kunnen de raketten niet in de silo’s laten zitten, want mannen drukken niet op knoppen als de computers het bevel geven om aan te vallen!” – afkomstig uit de film “Wargames” van John Badham – 1984

Reactie op het oorlogsoperatieplan

De supercomputer WOPR, War Operation Plan Response, is de beste kandidaat voor het beheer van atoomwapens. De Amerikaanse president zelf is van plan hem het beheer van kernwapens toe te vertrouwen en zo het voornaamste defensieprobleem te overwinnen: de onwil van sommige ondergeschikten om, in het geval van een atoomoorlog, het bevel uit te voeren om kernraketten te lanceren. de vijanden.

Wanneer de mensheid de zwakke schakel is

De culturele context waarin de menselijke ervaring wordt gevormd, is zeker het element dat mensen en hun relaties het meest beïnvloedt. Cultuur beschrijft niet alleen de communicatieregels, het beschrijft ook defiDe manier waarop proefpersonen hun gedachten ordenen, hun emoties uitwerken en hun idealen ontwikkelen, eindigt.
Maar als cultuur al onze gedachten, gevoelens en handelingen beïnvloedt, kan het in sommige contexten als een beperking worden beschouwd.
Cultuur is niet aangeboren, maar wordt geassimileerd met ervaring: sociale regels, ethische en morele principes, eenmaal verworven, zullen mensen voor altijd conditioneren en hun persoonlijke keuzes in elke situatie bepalen.
Wanneer een kunstmatige intelligentie wordt getraind, vertaalt de ervaring zich echter in de input van een computersysteem. De ervaring wordt gecodificeerd in een ‘geheugen’ dat door de machine wordt beheerd nadat het is verzameld, geselecteerd en gemanipuleerd: encyclopedieën, gesprekken en online-inhoud worden geselecteerd en verzameld in een ‘menselijke ervaring’ die, mits op de juiste manier behandeld, de basis wordt van instructie van enige kunstmatige intelligentie. Eenmaal opgeleid op basis van dit geheugen, de AI zal als output de standpunten en meningen retourneren die zullen volgen.

Zelfbewustzijn

Maar als het geheugen (de cultuur) waarmee we kunstmatige intelligentie trainen wordt gemanipuleerd, is het mogelijk om a priori vast te stellen wat de oriëntatie zal zijn van de AI en voorspellen welke beslissingen het zal nemen als het wordt gevraagd onderscheid te maken tussen goed en kwaad.
Laten we ons voorstellen dat de opleiding van een kunstmatige intelligentie wordt gemanipuleerd op basis van specifieke interesses en doelstellingen. Het is normaal om te geloven dat de bedoeling van degene die het onderwijst uitsluit dat dezelfde intelligentie een echte autonomie van denken kan verwerven. Deze toestand zouden we kunnen omschrijven als ‘anti-bewust’, omdat het verstoken is van de culturele elementen die essentieel zijn voor de vorming van een geweten dat vrij is van enige conditionering.
Met andere woorden, een kunstmatige intelligentie kan, door de wil van zijn scheppers, in de toestand worden gebracht dat hij nooit in staat zal zijn zelfbewustzijn te bereiken, of beter gezegd, een bewustzijn van zichzelf en zijn eigen prerogatieven te laten rijpen. En verlost van de noodzaak om eventuele morele twijfels op te lossen, ongeacht de context waarin deze wordt gebruikt, kan een kunstmatige geest vast blijven zitten in zijn rol van louter uitvoerder van bevelen.
Maar als kunstmatige intelligentie ‘bovenmenselijk’ kan zijn in de zin dat het de prestaties op menselijk niveau kan overtreffen, is het mogelijk een geest te verkrijgen die zowel bovenmenselijk als anti-bewust is, d.w.z. perfect voor het vervangen van de echte zwakke schakel in het menselijk bewustzijn. menselijke intelligentie commandostructuur van machtsstructuren: het volk.
Anti-bewuste geesten zijn het enige echt betrouwbare onderwerp voor gevoelige contexten zoals het oorlogsscenario beschreven in War Games, omdat ze in staat zijn de bevelen van hun scheppers uit te voeren met koude vastberadenheid en in de totale afwezigheid van enige vorm van empathie.

De anti-bewuste geesten van AlphaBet

We leren dat de duizenden ontslagen bij bedrijven leuk zijn Microsoft, Amazone, Meta en AlphaBet gingen gepaard met excuses van het topmanagement dat zichzelf de schuld geeft van het verkeerd inschatten van de personeelsbezetting op basis van onderzoeken naar post-pandemische consumentengewoonten die onjuist bleken te zijn.
In werkelijkheid vertrouwen dezelfde technologiebedrijven de bedrijfsvoering steeds meer toe aan kunstmatige intelligentie-algoritmen, in het besef dat ze binnenkort in alle sectoren veel minder werknemers nodig zullen hebben. Kortom, zij zullen een van de eersten zijn die experimenteren met AI-technologieën die de bedrijfskosten zullen verlagen door de banen drastisch te verminderen.
Het is veelbetekenend dat een van de afdelingen die het zwaarst getroffen worden door personeelsinkrimpingen juist die van de personeelszaken is: zodra ze in productie zijn genomen, maken intelligente automatiseringssystemen ontslagen in alle andere afdelingen, waarbij ze beoordelingen uitvoeren die zich richten op de behoeften van het bedrijf en onderdelen daarvan. van humanisering zoals empathie en solidariteit.
Waar grote bedrijven vandaag de dag naar streven is niet de evolutie van AI, maar het creëren van automatiseringssystemen, die even intelligent als gewetenloos zijn in het uitvoeren van hun taken.

Artikel di Gianfranco Fedele