gabinete de los horrores

El auge de las máquinas y la toma del poder por la inteligencia artificial. Un mundo de total vigilancia y control social. La guerra nuclear y la degeneración de la civilización. Muchas visiones oscuras del futuro, dibujadas hace muchos años, deberían haber ocurrido hoy. Y mientras tanto miramos atrás y parece que no estaban. ¿Está seguro?

Hay un repertorio bastante estereotipado de canciones populares. profecías distópicas (sobre la visión negra del futuro). Además de los más comunes asociados con la destrucción del medio ambiente y los recursos naturales, se cree ampliamente que las últimas tecnologías están dañando la comunicación interpersonal, las relaciones y la sociedad.

El espacio virtual reemplazará engañosamente a la participación real en el mundo. Otras visiones distópicas ven el desarrollo tecnológico como una forma de aumentar la desigualdad social, concentrando el poder y la riqueza en manos de pequeños grupos. Las altas exigencias de la tecnología moderna concentran conocimientos y habilidades en círculos estrechos de individuos privilegiados, aumentan la vigilancia de las personas y destruyen la privacidad.

De acuerdo con muchos futuristas, mayor productividad y una mayor elección visible puede perjudicar la calidad de la vida humana que causa el estrés, poniendo en peligro puestos de trabajo, y nos hace cada vez más materialista sobre el mundo.

Uno de los famosos "distópicos" tecnológicos, james gleick, da un ejemplo aparentemente trivial de un control remoto de TV como un invento clásico que no resuelve un solo problema significativo, dando lugar a muchos nuevos. Gleick, citando a un historiador técnico Eduardo Tenner, escribe que la capacidad y la facilidad de cambiar de canal con el control remoto sirven principalmente para distraer al espectador cada vez más.

En lugar de satisfacción, las personas están cada vez más insatisfechas con los canales que ven. En lugar de satisfacer las necesidades, hay un sentimiento de decepción sin fin.

¿Los coches nos mantendrán en las reservas?

¿Seremos capaces de controlar esto que es inevitable y que probablemente llegará pronto? ¿Sobre la inteligencia artificial? Si este es el caso, como proclaman muchas visiones distópicas, entonces no. (1).

Es difícil controlar algo que es muchas veces más fuerte que nosotros. con un aumento en el número de tareas. Hace veinte años, nadie habría creído que podía leer las emociones en la voz y el rostro de una persona con mucha más precisión de lo que podemos hacerlo nosotros mismos. Mientras tanto, los algoritmos entrenados actualmente ya son capaces de hacer esto, analizando las expresiones faciales, el timbre y la forma en que hablamos.

Las computadoras hacen dibujos, componen música y una de ellas incluso ganó un concurso de poesía en Japón. Han estado ganando a la gente al ajedrez durante mucho tiempo, aprendiendo el juego desde cero. Lo mismo se aplica al juego mucho más complejo de Go.

obedece las leyes de una aceleración cada vez más rápida. Lo que la IA ha logrado, con la ayuda de los humanos, en las últimas décadas se duplicará en los próximos años, tal vez solo meses, y luego tomará solo semanas, días, segundos...

Como resultó recientemente, los algoritmos utilizados en los teléfonos inteligentes o en los aeropuertos para analizar fotos de cámaras ubicuas no solo pueden reconocer a alguien en diferentes marcos, sino también determinar características psicológicas exclusivamente íntimas. Decir que esto es un gran riesgo para la privacidad es como no decir nada. No se trata de una simple vigilancia, de observar cada paso, sino de información que surge como resultado de la apariencia misma de una persona, sobre sus deseos ocultos y preferencias personales. 

Los algoritmos pueden aprender esto relativamente rápido al analizar cientos de miles de casos, que es mucho más de lo que incluso la persona más astuta puede ver en toda su vida. Armados con tal riqueza de experiencia, son capaces de escanear a una persona con mayor precisión que incluso el psicólogo, el lenguaje corporal y el analista de gestos más experimentados.

Entonces, la verdadera distopía escalofriante no es que las computadoras jueguen al ajedrez o vayan contra nosotros, sino que pueden ver nuestra alma más profundamente que nadie más que nosotros mismos, llena de prohibiciones y bloqueos para reconocer esas u otras inclinaciones.

Элон Маск cree que a medida que los sistemas de IA comienzan a aprender y razonar en una escala cada vez mayor, la "inteligencia" puede desarrollarse en algún lugar en lo profundo de las capas web, imperceptible para nosotros.

Según un estudio estadounidense publicado en 2016, en los próximos 45 años, la inteligencia artificial tiene un 50 por ciento de posibilidades de superar a los humanos en todas las tareas. Los meteorólogos dicen que sí, la IA resolverá el problema del cáncer, mejorará y acelerará la economía, brindará entretenimiento, mejorará la calidad y la duración de la vida, nos educará para que no podamos vivir sin ella, pero es posible que algún día, sin el odio, solo por el calculo logico, solo nos quita. Quizá no funcione físicamente, porque en cada sistema merece la pena guardar, archivar y almacenar recursos que “algún día nos pueden venir bien”. Sí, este es el recurso que podemos ser para la IA. ¿Mano de obra protegida?

Los optimistas se consuelan con el hecho de que siempre existe la posibilidad de sacar el enchufe de la toma de corriente. Sin embargo, no todo es tan simple. Ya, la vida humana se ha vuelto tan dependientes de los ordenadores que un paso radical en contra de ellos sería un desastre para nosotros.

Después de todo, estamos creando cada vez más sistemas de toma de decisiones basados ​​en IA, dándoles el derecho de volar aviones, establecer tasas de interés, operar plantas de energía; sabemos que los algoritmos lo harán mucho mejor que nosotros. Al mismo tiempo, no entendemos completamente cómo se toman estas decisiones digitales.

Hay temores de que los sistemas de comando superinteligentes como "Reducir la congestión" puedan llevarlos a concluir que la única forma efectiva de hacer el trabajo es... reducir la población en un tercio o incluso en la mitad.

Sí, vale la pena darle a la máquina la instrucción más importante como “¡Primero que nada, salva una vida humana!”. Sin embargo, quién sabe si entonces la lógica digital conducirá al encarcelamiento de la humanidad o bajo el granero, donde podemos estar a salvo, pero ciertamente no libres.

El cibercrimen como servicio

En el pasado, las distopías y las imágenes del mundo postapocalíptico en la literatura y el cine solían estar ambientadas en la era postnuclear. Hoy, la aniquilación nuclear no parece necesaria para la catástrofe y destrucción del mundo tal como lo conocemos, aunque no en la forma en que lo imaginamos. , es poco probable que destruya el mundo como en "Terminator", donde se combinó con la aniquilación nuclear. Si lo hiciera, no sería una superinteligencia, sino una fuerza primitiva. Después de todo, incluso la humanidad aún no se ha dado cuenta del escenario global de un conflicto nuclear devastador.

Un apocalipsis de máquina real puede ser mucho menos impresionante.

La guerra cibernética, ataques de virus, la piratería y el sistema de ransomware, ransomware (2) paralizar y destruir nuestro mundo no es menos efectiva que las bombas. Si sus expande escala, podemos entrar en una fase de una guerra total en la que vamos a ser víctimas y rehenes de las máquinas, a pesar de que no están obligados a actuar de manera autónoma, y es posible que la gente todavía estar detrás de todo.

El verano pasado, la Agencia de Seguridad de Infraestructura y Seguridad Cibernética de EE. UU. (CISA) nombró a los ataques de ransomware como "la amenaza de seguridad cibernética más visible".

CISA afirma que muchas actividades en las que un ciberdelincuente intercepta y cifra los datos de una persona u organización y luego exige un rescate nunca se informan porque la víctima paga a los ciberdelincuentes y no está dispuesta a publicar problemas con sus sistemas inseguros. En un nivel micro, los ciberdelincuentes a menudo se dirigen a personas mayores que tienen problemas para distinguir entre contenido honesto y deshonesto en Internet. Lo hacen con malware incrustado en un archivo adjunto de correo electrónico o una ventana emergente en un sitio web infectado. Al mismo tiempo, van en aumento los ataques contra grandes corporaciones, hospitales, agencias gubernamentales y gobiernos.

Estos últimos fueron especialmente atacados debido a los datos confidenciales que tenían y la capacidad de pagar grandes rescates.

Cierta información, como la información de salud, es mucho más valiosa para el propietario que otra y puede generar más dinero para los delincuentes. Los ladrones pueden interceptar o poner en cuarentena grandes bloques de datos clínicos importantes para la atención del paciente, como resultados de pruebas o información sobre medicamentos. Cuando la vida está en juego, no hay lugar para la negociación en el hospital. Uno de los hospitales estadounidenses se cerró definitivamente en noviembre del año pasado después del ataque terrorista de agosto.

Probablemente solo empeore con el tiempo. En 2017, el Departamento de Seguridad Nacional de EE. UU. anunció que los ataques cibernéticos podrían tener como objetivo infraestructura crítica, como los servicios de agua. Y las herramientas necesarias para llevar a cabo tales acciones están cada vez más disponibles para los operadores más pequeños, a quienes venden paquetes de ransomware como el software Cerber y Petya y cobran una tarifa de rescate después de ataques exitosos. Basado en el cibercrimen como servicio.

Trastorno peligroso en el genoma

Uno de los temas populares de la distopía es la genética, la manipulación del ADN y la crianza de personas, además, "programadas" de la manera correcta (autoridades, corporaciones, militares).

La encarnación moderna de estas ansiedades es un método de popularización. Edición de genes CRISPR (3). Los mecanismos que contiene son principalmente de interés. forzar las funciones deseadas en las generaciones posteriores y su potencial se extiende a toda la población. Uno de los inventores de esta técnica, Jennifer Doudna, Incluso llamó recientemente para una moratoria sobre tales "línea germinal" editar técnicas debido a las consecuencias potencialmente desastrosas.

Recordemos que hace unos meses, un científico chino en Jiankui ha sido ampliamente criticado por editar los genes de embriones humanos para inmunizarlos contra el virus del SIDA. La razón fue que los cambios que hizo podrían transmitirse de generación en generación con consecuencias impredecibles.

De particular preocupación son los llamados d (reescritura de genes, impulso genético), es decir, un mecanismo diseñado genéticamente que codifica un sistema de edición en el ADN de un individuo dado el genoma CRISPR/CAS9 con configurarlo para editar esta variante del gen no deseado. Debido a esto, los descendientes automáticamente (sin la participación de genetistas) sobrescriben la variante genética no deseada con la deseada.

Sin embargo, la descendencia puede recibir una variante genética indeseable "como un regalo" de otro padre no modificado. Entonces gene drive vamos a romper leyes mendelianas de la herencialos cuales dicen que la mitad de los genes dominantes pasa a la descendencia de un padre. En resumen, esto eventualmente conducirá a la propagación de la variante genética en cuestión a toda la población.

Biólogo en la Universidad de Stanford Cristina Smolke, en un panel sobre ingeniería genética en 2016, advirtió que este mecanismo podría tener consecuencias dañinas y, en casos extremos, terribles. El impulso genético es capaz de mutar a medida que pasa de generación en generación y causar trastornos genéticos como la hemofilia o la hemofilia.

Como leemos en un artículo publicado en Nature Reviews por investigadores de la Universidad de California, Riverside, incluso si un impulso funciona según lo previsto en una población de un organismo, el mismo rasgo hereditario puede ser dañino si de alguna manera se introduce en otra población. . la misma mirada

También existe el peligro de que los científicos creen impulsores genéticos a puerta cerrada y sin revisión por pares. Si alguien, intencionalmente o no, introduce un impulso genético dañino en el genoma humano, como uno que destruye nuestra resistencia a la influenza, podría incluso significar el fin de la especie homo sapiens...

Capitalismo de vigilancia

Una versión de distopía que los antiguos escritores de ciencia ficción difícilmente podrían haber imaginado es la realidad de Internet, y especialmente de las redes sociales, con todas sus ramificaciones ampliamente descritas que destruyen la privacidad, las relaciones y la integridad psicológica de las personas.

Este mundo solo está pintado en representaciones artísticas más nuevas, como lo que pudimos ver en la serie Black Mirror en el episodio de 2016 "The Diving" (4). Shoshana Zuboff, economista de Harvard, llama a esta realidad completamente dependiente de la autoafirmación social y completamente "desprivatizada". capitalismo de vigilancia (), y al mismo tiempo la obra cumbre de Google y Facebook.

4. Escena de "Black Mirror" - episodio "Diving"

Según Zuboff, Google es el primer inventor. Además, está constantemente ampliando sus actividades de vigilancia, por ejemplo, a través de proyectos aparentemente inocentes de "ciudades inteligentes". Un ejemplo es el proyecto del barrio más innovador del mundo de Sidewalk Labs, una subsidiaria de Google. muelle en Toronto.

Google planea recopilar todos los datos más pequeños sobre la vida de los habitantes de la costa, su movimiento e incluso su respiración con la ayuda de sensores de monitoreo ubicuos.

También es difícil elegir una distopía de Internet que esté fuera de discusión en Facebook. El capitalismo de vigilancia puede haber sido inventado por Google, pero fue Facebook quien lo llevó a un nivel completamente nuevo. Esto se hizo a través de mecanismos virales sociales y emocionales y una persecución despiadada incluso de aquellos que no son usuarios de la plataforma Zuckerberg.

AI vigilada, inmersa en la realidad virtual, viviendo con UBI

Según muchos futuristas, el futuro del mundo y la tecnología se designa con cinco abreviaturas: AI, AR, VR, BC y UBI.

Los lectores de "MT" probablemente sepan bien qué son y en qué consisten los tres primeros. El familiar también resulta ser el cuarto, "BC", cuando entendemos de qué se trata. ¿Y el quinto? UBD es una abreviatura del concepto, que significa "Renta básica universal » (5). Este es un beneficio público, postulado de vez en cuando, que se dará a cada persona liberada de trabajo como otras tecnologías se desarrollan, especialmente IA.

5. Renta Básica Universal - RBU

Suiza incluso sometió la idea a referéndum el año pasado, pero sus ciudadanos la rechazaron por temor a que la introducción de un ingreso garantizado provoque una avalancha de inmigrantes. UBI también conlleva una serie de otros peligros, incluido el riesgo de perpetuar las desigualdades sociales existentes.

Cada una de las revoluciones tecnológicas detrás del acrónimo (ver también:) - si se extiende y se desarrolla en la dirección esperada - tiene enormes consecuencias para la humanidad y nuestro mundo, incluyendo, por supuesto, una gran dosis de distopía. Por ejemplo, se cree que podría reemplazar los ciclos electorales de cuatro años y conducir a referéndums sobre innumerables temas.

La realidad virtual, a su vez, es capaz de "excluir" a parte de la humanidad del mundo real. Como ocurrió, por ejemplo, con la coreana Jang Ji Sung, quien, tras la muerte de su hija en 2016 a causa de una enfermedad incurable, ha conocido desde entonces a su avatar en VR. El espacio virtual también crea nuevos tipos de problemas, o en realidad transfiere todos los viejos problemas conocidos al "nuevo" mundo, o incluso a muchos otros mundos. Hasta cierto punto, ya podemos ver esto en las redes sociales, donde sucede que muy pocos "me gusta" en las publicaciones conducen a la depresión y al suicidio.

Cuentos proféticos más o menos

Después de todo, la historia de la creación de visiones distópicas también enseña prudencia a la hora de formular predicciones.

6. Portada de "Islas en la Red"

El año pasado se filmó la famosa obra maestra de ciencia ficción de Ridley Scott.cazador de androides» Desde 1982. Es posible discutir el cumplimiento o no de muchos elementos específicos, pero es indiscutible que la profecía más importante sobre la existencia en nuestro tiempo de androides humanoides inteligentes, en muchos aspectos superiores a los humanos, aún no se ha hecho realidad.

Estaríamos listos para tolerar muchos más golpes proféticos".Neuromantes»es decir, novelas William Gibson desde 1984, quien popularizó el concepto de "ciberespacio".

Sin embargo, en esa década apareció un libro un poco menos conocido (en nuestro país, casi por completo, porque no estaba traducido al polaco), que predecía la hora actual con mucha más precisión. estoy hablando de romanticismoislas en la web"(6) Bruce Sterling desde 1988, ambientada en 2023. Presenta un mundo inmerso en algo similar a Internet, conocido como la "web". Está controlado por grandes corporaciones internacionales. Las "islas en la web" se destacan por proporcionar control, vigilancia y monopolización de la Internet supuestamente gratuita.

También es interesante prever operaciones militares realizadas con vehículos aéreos no tripulados (drones) contra piratas/terroristas en línea. Operadores a miles de kilómetros de distancia con escritorios seguros: ¿cómo sabemos eso? El libro no trata sobre el interminable conflicto con el terrorismo islámico, sino sobre la lucha contra las fuerzas que se oponen a la globalización. El mundo de Islands in the Net también está repleto de dispositivos de consumo que se parecen mucho a relojes inteligentes y calzado deportivo inteligente.

Hay otro libro de los años 80 que, aunque algunos de los eventos parecen más fantásticos, hace un buen trabajo al ilustrar nuestros miedos distópicos de hoy en día. Este "software de georadar", Historia Rudy Rokerfijado en 2020. El mundo, el estado de la sociedad y sus conflictos parecen increíblemente similares a lo que estamos tratando hoy. También hay robots conocidos como boppers que adquirieron conciencia de sí mismos y escaparon a ciudades en la luna. Este elemento aún no se ha materializado, pero la revuelta de las máquinas se está convirtiendo en un estribillo constante de los vaticinios negros.

Las visiones de nuestro tiempo en los libros también son sorprendentemente precisas en muchos sentidos. mayordomo octavia, especialmente enparábolas del sembrador» (1993). La acción comienza en 2024 en Los Ángeles y se desarrolla en California, devastada por inundaciones, tormentas y sequías provocadas por el cambio climático. Las familias de clase media y trabajadora se reúnen en comunidades cerradas mientras intentan escapar del mundo exterior con drogas adictivas y equipos de realidad virtual. Están surgiendo nuevas religiones y teorías de la conspiración. La caravana de refugiados se dirige al norte para evitar el colapso ecológico y social. Un presidente llega al poder que utiliza el lema de campaña "Make America Great Again" (este es el lema de Donald Trump)...

El segundo libro de Butler, "parábola de los talentoscuenta cómo los miembros de un nuevo culto religioso abandonan la Tierra en una nave espacial para colonizar Alpha Centauri.

***

¿Cuál es la lección de este extenso relevamiento de predicciones y visiones realizadas hace varias décadas sobre nuestra vida cotidiana?

Probablemente, el hecho es que las distopías ocurren a menudo, pero la mayoría de las veces solo parcialmente.