Conciencia y manipulación de mentes artificiales.

EE.UU. Década de 80, los líderes militares de los Estados Unidos de América dictan las nuevas reglas para la planificación de la defensa militar definively efectivo.

Los militares están convencidos de que para reaccionar rápidamente ante la agresión de un Estado enemigo, la URSS, cada persona en la cadena de mando debe ser relevada de su papel y reemplazada por un sistema informático capaz de decidir, con rapidez y eficacia, cuándo es necesario. Es hora de desatar una guerra termonuclear global.

"¡No podemos dejar misiles en silos porque los humanos no presionan botones cuando las computadoras dan la orden de atacar!" – tomado de la película “Juegos de guerra” de John Badham – 1984

Respuesta al plan de operación de guerra

El superordenador WOPR, War Operation Plan Response, es el mejor candidato para gestionar armas atómicas. El propio presidente estadounidense pretende confiarle la gestión de las armas nucleares y así superar lo que parece ser el principal problema de defensa: la reticencia de algunos subordinados, en caso de guerra atómica, a ejecutar la orden de lanzar misiles nucleares sobre los enemigos.

Cuando la humanidad es el eslabón débil

El contexto cultural en el que se forma la experiencia humana es sin duda el elemento que más influye en las personas y sus relaciones. La cultura no se limita a describir las reglas de la comunicación, sino que defiSe define la forma misma en que los sujetos organizan sus pensamientos, procesan sus emociones y desarrollan sus ideales.
Pero si la cultura influye en cada uno de nuestros pensamientos, sentimientos y acciones, en algunos contextos puede considerarse una limitación.
La cultura no es innata sino que se asimila con la experiencia: las reglas sociales, los principios éticos y morales, una vez adquiridos, condicionarán a las personas para siempre, dirigiendo sus elecciones personales en cualquier situación.
Sin embargo, cuando se entrena una inteligencia artificial, la experiencia se traduce en la entrada de un sistema informático. La experiencia se codifica en una "memoria" que se administra a la máquina después de haber sido recopilada, seleccionada y manipulada: enciclopedias, conversaciones, contenidos en línea se seleccionan y recopilan en una "experiencia humana" que, adecuadamente tratada, se convierte en la base de instrucción de cualquier inteligencia artificial. Una vez educado sobre la base de esta memoria, la IA devolverá como salida las posiciones y opiniones resultantes.

Conciencia de sí mismo

Pero si se manipula la memoria (cultura) con la que entrenamos las inteligencias artificiales, se puede establecer a priori cuál será la orientación de la IA y predecir qué decisiones tomará cuando se le solicite distinguir lo que está bien de lo que está mal.
Imaginemos que la educación de una inteligencia artificial se manipula según intereses y objetivos concretos. Es natural creer que la intención de quien la educa excluye que la misma inteligencia pueda adquirir una verdadera autonomía de pensamiento. Esta condición podríamos calificarla de "anticonsciente", ya que está privada de los elementos culturales esenciales para la formación de una conciencia libre de cualquier condicionamiento.
En otras palabras, una inteligencia artificial puede, por voluntad de sus creadores, verse en la condición de no poder nunca alcanzar la autoconciencia o, más bien, madurar la conciencia de sí misma y de sus propias prerrogativas. Y liberada de tener que resolver dudas morales cualquiera que sea el contexto en el que se utilice, una mente artificial puede permanecer estancada en su papel de mero ejecutor de órdenes.
Pero si la inteligencia artificial puede ser "sobrehumana" en el sentido de que es capaz de superar el rendimiento del nivel humano, es posible obtener una mente que sea a la vez sobrehumana y anticonsciente, es decir, perfecta para reemplazar el verdadero eslabón débil en inteligencia humana cadena de mando de las estructuras de poder: el pueblo.
Las mentes anticonscientes son el único sujeto verdaderamente confiable para contextos sensibles como el escenario bélico descrito en War Games porque son capaces de ejecutar las órdenes de sus creadores con fría determinación y en total ausencia de cualquier forma de empatía.

Las mentes anticonscientes de AlphaBet

Nos enteramos de que los miles de despidos en empresas como Microsoft, Amazon, Meta y AlphaBet estuvieron acompañadas de disculpas por parte de la alta dirección, que se culpan a sí mismas por calcular mal los niveles de personal basándose en estudios de hábitos de consumo pospandémicos que resultaron ser incorrectos.
En realidad, las mismas empresas tecnológicas confían cada vez más sus operaciones comerciales a algoritmos de inteligencia artificial, conscientes de que pronto necesitarán muchos menos empleados en todos los sectores. En resumen, estarán entre los primeros en experimentar con tecnologías de inteligencia artificial que reducirán los costos comerciales al reducir drásticamente los empleos.
Es significativo que uno de los departamentos más afectados por los recortes de personal sea precisamente el de recursos humanos: una vez puestos en producción, los sistemas de automatización inteligentes están eliminando despidos en todos los demás departamentos, realizando evaluaciones centradas en las necesidades de la empresa y parte de elementos de humanización como la empatía y la solidaridad.
Lo que hoy persiguen las grandes corporaciones no es la evolución de la IA sino la creación de sistemas de automatización, tan inteligentes como inescrupulosos en el desempeño de sus funciones.

Artículo de Gianfranco Fedele