El lado oscuro de la inteligencia artificial

Praga 9.11.2020

Ofrecemos una breve recensión del libro de Fred Turner, profesor de Ciencias de la Comunicación en la Universidad de Stanford, USA.  En la Neue Zuercher Zeitung en Suiza fueron publicadas sus ideas principales sobre el tema, hace unos meses

https://www.youtube.com/watch?v=1Pql2nNR80k

https://www.youtube.com/watch?v=mhutZM8Hmt8

Observaciones previas de la redacción

La inteligencia artificial (IA) es un acontecimiento científico y técnico que cambiará profundamente nuestra vida, en un horizonte ya no muy lejano de pocos años. Como todo progreso tecnológico, también puede emplearse para el mal, como bien sabemos. Pero esto no justifica demonizar el progreso, sino ver en él un desafío que interpela al hombre a progresar también en su perfil moral, tan abierto a buscar el bien.

La IA sustituirá al trabajo del hombre en muchísimos procesos productivos y en la prestación de servicios, por ejemplo, en minería, construcción de edificios, carreteras y puentes, en la agricultura y ganadería, en la vigilancia y regulación del tráfico automotor, en la medicina etc. etc.  Esto llevará a una ulterior reducción de horas de trabajo parara evitar el desempleo, pudiendo así, al fin, dedicarse más tiempo a la educación de los hijos, a la familia y a los intereses nobles del hombre, para los que hasta ahora no ha habido el tiempo deseable.

Sin embargo, lo que podría provocar consecuencias horrorosas es la posibilidad de que un gobierno emplee la IA para instaurar una tiranía totalitaria, saltándose las garantías constitucionales so pretexto, por ejemplo, de una epidemia… Indicios de que este riesgo son reales ya pueden observarse hoy.

———————————— Fin de las observaciones previas.

Los empresarios líderes del Silicon Valley -desde Steve Jobs hasta Mark Zuckerberg- han anunciado que los medios digitales contribuirán a una sociedad igualitaria, más colaborativa y libre de la tiranía del Estado. A estas alturas, quizás no deberían estar tan seguros, porque en los últimos años, la gente ha empezado a percibir una ironía preocupante: los mismos aspectos de los medios digitales que se creía que harían más democráticas a nuestras sociedades están en proceso de socavar las instituciones y las normas democráticas.

La facilidad con la que las imágenes digitales y los textos pueden ser alterados está minando gradualmente nuestra confianza en los hechos. En los USA, uno casi puede sentir cómo los fundamentos sociales y culturales del debate democrático, y con ellos el estado democrático mismo, comienza a desmoronarse. Al mismo tiempo, los fundamentos de una nueva forma de gobierno autoritario están emergiendo a nivel mundial. Los Estados no sólo están desarrollando y utilizando sus propias tecnologías, con fines de vigilancia y propaganda, sino que también están contribuyendo a la labor de las empresas de tecnología nacionales e internacionales para alcanzar sus fines.

A fin de vigilar a cada uno de sus ciudadanos de manera integral e individual, la República Popular China utiliza el Wechat, un sistema que se emplea para todos los aspectos de la vida, desde el pago hasta los convenios y la lectura de las noticias. Y en los USA, empresas como Palantir cooperan con los entes gubernamentales – desde las fuerzas de la policía local hasta la Administración de Seguridad Nacional (NSA).

A diferencia del papel o de la película, los datos almacenados electrónicamente pueden copiarse sin fin, sin afectar al original; pueden deshacerse, volverse al original y enviarse a todo el mundo con la velocidad de la luz. Esto significa que casi cualquiera puede hacer públicos sus pensamientos en cualquier lugar, incluso de forma anónima, si lo desea. Cualquiera puede difundir propaganda y desinformación a voluntad, y cada usuario, por su parte, puede poner inmediatamente sus lecturas en circulación. En cualquier rincón remoto del Internet, se pueden decir mentiras que suenen a verdad y se pueden llegar a ponerse en circulación en todo el mundo en cuestión de minutos – y viceversa. Y los estados apenas tienen medios para detener tales procesos.

El modelo chino

Este ejercicio informático lo está llevando China a su más alta sofisticación. Durante dos décadas, el gobierno chino ha impuesto una combinación de medidas tecnológicas y reglamentarias para limitar el acceso de sus ciudadanos al Internet mundial y para restringir la actividad de las empresas internacionales dentro de sus propias fronteras. La tecnología utilizada es nueva, pero esta forma de censura es antigua. En realidad, los Estados siempre han utilizado técnicas de censura – así como de vigilancia y de propaganda – para controlar sus ciudadanos.

Las tecnologías digitales han expandido dramáticamente las posibilidades del estado chino en todas estas dimensiones. Las redes inalámbricas que permiten a las masas comunicarse online, ayudan al estado a rastrear sus actividades a nivel individual con una precisión extraordinaria. Así, cada acción de un usuario de instrumentos digitales crea un rastro electrónico. Y debido a que estas pistas son de naturaleza electrónica, requieren poco espacio de almacenamiento.  De esta manera, los datos son inmediatamente cotejados, analizados y de nuevo puestos en circulación. Y mediante el aprendizaje de la máquina y la inteligencia artificial, estos registros de datos son capaces de predecir casi en tiempo real quién podría tomar medidas contra el estado.

Pero probablemente la estrategia estatal más efectiva de la tecnología digital es vincular diferentes tipos de datos. En la provincia de Sinkiang, por ejemplo, de esta manera, el gobierno se ha esforzado en someter a control a una minoría inquieta. Allí, el estado ha implementado un extenso sistema cerrado de vigilancia por video, drones y rastreadores GPS para seguir los movimientos de cada ciudadano.

Mediante la combinación de diversas fuentes de datos y el uso de técnicas como el reconocimiento facial, los sensores de huellas dactilares y las pruebas de ADN, ha sido posible vigilar y controlar la población regional con un grado extraordinario de precisión individual. Tan pronto como los datos indican la sospecha de que alguien se está pasando de la raya, se llama inmediatamente a la policía al lugar del incidente.

¿Y en el Occidente?

Incluso en los estados democráticos occidentales ya hay una eficiente red de vigilancia. Basta pensar en los datos que Facebook ha recogido de sus usuarios, o en los datos que Google se apropia en un día lleno de búsquedas.

Esto naturalmente da lugar a una tentación en los estados. En tiempos de crisis podrían exigir a las empresas que entreguen sus datos o algoritmos bajo amenaza de arresto. O simplemente podrían obligar a esas empresas a cooperar a través de reglamentos oficiales. Un estado, y especialmente un estado autoritario, tiene un hambre casi infinita de tecnología y poder informático. Es fácil imaginar lo que las empresas puedan ganar a cambio de la satisfacción de estas necesidades digitales.

La cooperación de las empresas con el estado en los USA no parece todavía igualar el nivel de centralización controlada por el estado China. Pero eso podría llegar muy rápido. Eso sería – como mencioné al principio – una especie de ironía de la historia reciente. Los ciudadanos tendrían que conformarse con el hecho de que su deseo de avanzar libertad individual haya ayudado a establecer una nueva forma de poder y control estatal hasta en el más mínimo detalle.