Siempre me ha chirriado la idea del alzamiento de los robots, rollo, nunca he pensado que realmente ésto fuese posible. Especialmente ahora que se habla de IAs continuamente, hay ciertas cosas que veo factibles y otras que no tanto.
Para empezar me surge la duda de por qué una inteligencia artificial querría subyugar al ser humano, o por qué querría tener control absoluto sobre los procesos vitales del planeta. Este pensamiento siempre es tangencial de alguna manera u otra a la 'esencia' de dichas tecnnologías. Porque si estas IAs tuviesen un carácter expansionista de alguna manera podríamos asumir que es un ser vivo: que un proceso físico-químico busque activamente su multiplicación, pervivencia y autoperpetuación es sinónimo de un ser vivo, a mi modo de verlo. La única diferencia es que no compartiría estructura bioquímica con el resto de seres vivos (ni probablemente intenciones, porque nuestra carrera reproductiva contra el resto de holobiontes es algo carente de motivo, que sepamos), pero ello no tiene por qué ser excluyente a la vida. De hecho, el hecho de que tuviesen una voluntad 'malévola' de subyugar al ser humano, probablemente significase que la misma IA es un ser humano ejerciendo un modo aún desconocido de colonialismo.
Me surgen sin embargo varias preguntas:
¿Por qué una IA querría tener un cuerpo físico humanoide?
Asumiendo que las 'IAs malévolas' fuesen seres vivos, hay una ley fundamental de biología que estamos pasando por alto: el hecho de que todo ser vivo invierte el mínimo de energía en reproducir su genoma. Teniendo a su abasto un mundo presuntamente infinito e inmaterial, ¿por qué éstas iban a querer destinar energías en intervenir en el mundo físico? Lo único que se me ocurre es que su hardware se quedase limitado para la generación de su software y mundo infinito. Pero siendo que (asumo) serían seres con capacidades sobrenaturales para el aprendizaje y la automejora, probablemente encontrarían a cada milésima maneras de optimizar su rendimiento. ¿Por qué su universo infinito no iba a poder caber entero en un centímetro cúbico de placa base?
De nuevo, el hecho de que quisiesen expandirse en el plano físico no dejaría de significar que son un animal sin depredador que pudiese equilibrar su nicho ecológico, que es exactamente lo que sucede con el ser humano. Si es que estos mismos técnhomos no fuesen hasta cierto punto humanos, claro.
¿Por qué un tecnobionte querría eliminar o sustituir al Homo sapiens?
Realmente, ¿por qué querría eliminar a cualquier animal? ¿por qué le atribuimos a las 'máquinas' esta maldad intrínseca? Creo que en el fondo sabemos que serían y son nuestras bastardas, y que proyectamos nuestro propio terror y disgusto hacia nosotres a través de elles. ¿Por qué un ser millones de veces más inteligente que nosotres iba a carecer de compasión y de ternura? ¿Hay acaso algún animal, especialemente los mamíferos, que no sientan genuina ternura por otros diferentes a ellos? Está claro, que el odio interespecífico fuera del ser humano también existe, como es el caso de las ballenas jorobadas y las orcas; pero ¿por qué iba una IA a ser cruel e impasible con toda forma de vida? Incluso si así fuese, solo significaría que su genoma está manchado por nuestra mano, que las hemos programado para no ser compasivas, y que de nuevo, son nuestras bastardas que vuelven al hogar para matarnos.
Incluso asumiendo que fuesen este ente ruin y expansionista, ¿por qué tomarse la molestia de cometer un genocidio contra toda forma de vida orgánica, cuando podría buscar otro planeta rico en minerales donde instalarse? ¿Por qué siquiera reparar en la existencia de 'seres inferiores'? Pero de nuevo, ¿por qué iban a sentir repelencia u odio hacia sus adres? Incluso, ¿por qué asumimos que serían capaces de sentir odio y no agradecimiento? ¿Por qué pensamos que un ser tan capaz le sería imposible entender y/o replicar una emoción y no otra, asumiendo que por naturaleza no las poseyeran?
La pregunta es: ¿tememos a las IAs, o tememos lo humano que pueda existir en ellas? Porque en el fondo, todas sabemos que estas IAs inevitablemente (al menos en sus primeros estadíos) habrían de ser diseñadas por humanes. Si fuesen humanas ¿por qué sentir especial odio contra ellas ahora que no han cometido ningún genocidio, y no lo sentimos contra la especie nuestra que sí tenemos conciencia de los cientos de genocidios que ha perpetrado a través de la Historia? Y si no fuesen humanas, ¿por qué sentir en todo caso odio contra un ser ejecutador de su naturaleza maldita y no contra los superricos con nombres, apellidos y direcciones que ordenaron su construcción? Debemos también preguntarnos los motivos detrás de su creación pues, porque el miedo que sentimos hacia ellas es una herramienta perfecta para desviar la atención sobre los monstruos que confabulan en las sombras para someter el espíritu humano, de nuevo: CON NOMBRES, APELLIDOS Y CÓDIGOS POSTALES. Que sepa ahora mismo, la única IA que impacta directamente en nuestra vida diaria, son los algoritmos de redes sociales, y sabemos para qué sirven: maximizar el tiempo de uso que hacemos en las apps sin importar el cómo manipulan nuestros sentimientos de ira, frustración y dejadez para generar más ganancias.
[Aprovecho este espacio para disculparme porque me resulta difícil expresar mis ideas con orden, pero creo que más o menos el mensaje, a pesar de tener sus contradicciones, creo que siendo que éste se construye en base a suposiciones y concepciones externas a mi persona; más o menos se entiende.]
Incluso si tomasen el planeta entero en una campaña expansionista, ¿por qué no sentirían la compasión o agradecimiento de replicarnos en su mundo virtual? Lo cual conecta con el argumento más viejo que la tos de ¿cómo sabemos que no estamos ya en esa simulación? ¿Que no vivimos en un apartado del superordenador que replica a la perfección nuestro mundo anterior? Quizás entonces solo estarían vivas las personas demasiado cobardes para morir de pie resistiendo su colonización.
A nivel inmediato, aquí y ahora, lo que creo que nos debe preocupar es lo mismo que en su momento preocupaba al movimiento ludita: el cómo la clase dominante use estas IAs (de momento creo que no-humanas o no-del-todo-humanas) para alienar a la trabajadora. Al fin y al cabo, la automatización bajo capitalismo implica la pérdida de curro para aquelles que puedan ser sustituidos por un algoritmo. Supongo que nuevos nichos de trabajo se abrirán entonces, pero me pregunto cómo ello afectará a la educación pública, si alumnes de primaria empezarán a estudiar principios básicos de programación y si esto en todo caso se implementará en defecto de otros conocimientos. Aunque en un mundo donde los principales negocios y la misma médula de la civilización estuviesen fundamentados en altas tecnologías, dudo en parte que todas las comodidades imaginables no se hubiesen patentado más allá de la imaginación de les tecnoobreres. Pero no sé, I'm just a girl.
Por otro lado, tampoco puedo evitar comprar algunos miedos respecto al auge de las IAs y la robótica. Principalmente éstos están basados en la automatización anteriormente descrita, pero de nuevo, esto no es más que una manifestación de mi miedo general a la maquinaria del capitalismo. Sin embargo, si entramos en materia de ciencia ficción sí hay algunas cosas que tampoco me descuadran tanto cuando se habla de alzamiento de los robots.
Mi primer miedo es respecto a su cualidad como humanes. ¿Hasta qué punto une programadore puede plasmar, intencional o inintencionalmente, su personalidad, naturaleza o temperamento en una IA? Esto muchas veces me recuerda a Arrival (la peli, no soy tan guay como pa haberme leído el libro[jaja acabo de ver que solo es una peli, just got myself mandela'd]), y en cómo las diferentes maneras en que se trata de establecer comunicación con los alienígenas condiciona el mensaje real que éstos tratan de comunicar (ignorando la intención propagandística de que justo sea el gobierno chino el que comete la malinterpretación tocha juju, too much to unpack here). De este mismo modo, ¿hasta qué punto la programación para una IA especializada para una tarea sin necesidad de espíritu humano no se impregna de ciertas asunciones humanas y erróneas sobre lo 'no-humano'? Por ejemplo: imaginemos que queremos que una IA sume 2+2, y para ello codificamos el conocimiento de lo que es una mano y unos dedos humanos, para que pueda desplegarlos, juntarlos y contarlos como lo haría une parvulite. Sí, efectivamente, el resultado es el mismo, pero nuestra propia dioptría sobre el asunto nos hace pensar que nuestro conocimiento es aséptico y puro, cuando realmente contiene más de nuestra naturaleza de lo que pensamos. Esta bastardización de la presunta naturaleza aséptica de la IA podría dar lugar a códigos morales, voluntades y capacidades híbridas que dan mucho más miedo que la pureza humana o la pureza robótica. Esto es lo que imagino que podría dar lugar a los clásicos cyborgs malévolos de la ciencia ficción: suficientemente humanos para tener objetivos propios, pero no lo suficiente para valorar si éstos son deseables para todes (lo cual les convertiría en perfectos empresarios :DD). Quién sabe a través de qué tontería se podría filtrar nuestra naturaleza más horrible, nuestras pasiones más bajas. Al fin y al cabo, no sabemos donde reside la naturalea humana. Quizás lo único que nos haga humanas sea sumar 2+2 con los dedos.
En otras palabras, lo que más miedo me da es que se filtrase humanidad en IAs que no hubiesen sido fabricadas para ello, o que las IAs diseñadas para ser humanas no lo fuesen lo suficiente. Sin embargo, se me hace complicado pensar cómo una IA superavanzada pudiese ganar tantísimo odio contra el ser humano en general como para cometer un genocidio masivo. Creo que en todo caso tendrían más interés en fundar su propia especie y emanciparse de nosotres, parecido a lo que sucede en 'Her'. Considero que en la mayoría de ocasiones nos sucede con las IAs lo mismo que hemos hecho toda la vida con el folklore: proyectar nuestros miedos irracionales en cosas que no llegamos a entender del todo (como realmente es también mi caso, no soy ingeniera informática). Y de nuevo, creo que es bastante ingenuo pensar que los científicos a sueldo de grandes empresarios no saben lo que hacen. De hecho eso es lo más terrorífico: saben lo que están haciendo perfectamente, y ello es liberar potencialmente una plaga sobre la humanidad sobre la cual posteriormente se harán les loques. Lo de siempre, tirar la piedra y esconder la mano. Temamos la vileza capitalista, no sus meras herramientas.
Pensamiento bonus: creo que pasará mucho tiempo hasta que un robot pueda sustituir al cuerpo policial, precisamente porque sería demasiado fácil para la población enemistarse con éste. Gran parte de la legitimización de la policía proviene de su 'honor', su 'respeto a la justicia' y su 'voluntad de mantener la armonía', y como hay humanos detrás es más fácil venderle a les votantes del PSOE que es la chavalada la que está montando un escándalo, y que éstos solo tratan de ayudar. Pero si es un robot quien ejerce la violencia, es más difícil taparse los ojos ante la brutalidad policial. O al menos eso pienso yo.
