El lado oscuro de la inteligencia artificial

 

Praga 9.11.2020

Ofrecemos una breve recensión del libro de Fred Turner, profesor de Ciencias de la Comunicación en la Universidad de Stanford, USA.  En la Neue Zuercher Zeitung en Suiza fueron publicadas sus ideas principales sobre el tema, hace unos meses

https://www.youtube.com/watch?v=1Pql2nNR80k

https://www.youtube.com/watch?v=mhutZM8Hmt8

Observaciones previas de la redacción

La inteligencia artificial (IA) es un acontecimiento científico y técnico que cambiará profundamente nuestra vida, en un horizonte ya no muy lejano de pocos años. Como todo progreso tecnológico, también puede emplearse para el mal, como bien sabemos. Pero esto no justifica demonizar el progreso, sino ver en él un desafío que interpela al hombre a progresar también en su perfil moral, tan abierto a buscar el bien.

La IA sustituirá al trabajo del hombre en muchísimos procesos productivos y en la prestación de servicios, por ejemplo, en minería, construcción de edificios, carreteras y puentes, en la agricultura y ganadería, en la vigilancia y regulación del tráfico automotor, en la medicina etc. etc.  Esto llevará a una ulterior reducción de horas de trabajo parara evitar el desempleo, pudiendo así, al fin, dedicarse más tiempo a la educación de los hijos, a la familia y a los intereses nobles del hombre, para los que hasta ahora no ha habido el tiempo deseable.

Sin embargo, lo que podría provocar consecuencias horrorosas es la posibilidad de que un gobierno emplee la IA para instaurar una tiranía totalitaria, saltándose las garantías constitucionales so pretexto, por ejemplo, de una epidemia… Indicios de que este riesgo son reales ya pueden observarse hoy.

———————————— Fin de las observaciones previas.

 

Los empresarios líderes del Silicon Valley -desde Steve Jobs hasta Mark Zuckerberg- han anunciado que los medios digitales contribuirán a una sociedad igualitaria, más colaborativa y libre de la tiranía del Estado. A estas alturas, quizás no deberían estar tan seguros, porque en los últimos años, la gente ha empezado a percibir una ironía preocupante: los mismos aspectos de los medios digitales que se creía que harían más democráticas a nuestras sociedades están en proceso de socavar las instituciones y las normas democráticas.

La facilidad con la que las imágenes digitales y los textos pueden ser alterados está minando gradualmente nuestra confianza en los hechos. En los USA, uno casi puede sentir cómo los fundamentos sociales y culturales del debate democrático, y con ellos el estado democrático mismo, comienza a desmoronarse. Al mismo tiempo, los fundamentos de una nueva forma de gobierno autoritario están emergiendo a nivel mundial. Los Estados no sólo están desarrollando y utilizando sus propias tecnologías, con fines de vigilancia y propaganda, sino que también están contribuyendo a la labor de las empresas de tecnología nacionales e internacionales para alcanzar sus fines.

A fin de vigilar a cada uno de sus ciudadanos de manera integral e individual, la República Popular China utiliza el Wechat, un sistema que se emplea para todos los aspectos de la vida, desde el pago hasta los convenios y la lectura de las noticias. Y en los USA, empresas como Palantir cooperan con los entes gubernamentales – desde las fuerzas de la policía local hasta la Administración de Seguridad Nacional (NSA).

A diferencia del papel o de la película, los datos almacenados electrónicamente pueden copiarse sin fin, sin afectar al original; pueden deshacerse, volverse al original y enviarse a todo el mundo con la velocidad de la luz. Esto significa que casi cualquiera puede hacer públicos sus pensamientos en cualquier lugar, incluso de forma anónima, si lo desea. Cualquiera puede difundir propaganda y desinformación a voluntad, y cada usuario, por su parte, puede poner inmediatamente sus lecturas en circulación. En cualquier rincón remoto del Internet, se pueden decir mentiras que suenen a verdad y se pueden llegar a ponerse en circulación en todo el mundo en cuestión de minutos – y viceversa. Y los estados apenas tienen medios para detener tales procesos.

El modelo chino

Este ejercicio informático lo está llevando China a su más alta sofisticación. Durante dos décadas, el gobierno chino ha impuesto una combinación de medidas tecnológicas y reglamentarias para limitar el acceso de sus ciudadanos al Internet mundial y para restringir la actividad de las empresas internacionales dentro de sus propias fronteras. La tecnología utilizada es nueva, pero esta forma de censura es antigua. En realidad, los Estados siempre han utilizado técnicas de censura – así como de vigilancia y de propaganda – para controlar sus ciudadanos.

Las tecnologías digitales han expandido dramáticamente las posibilidades del estado chino en todas estas dimensiones. Las redes inalámbricas que permiten a las masas comunicarse online, ayudan al estado a rastrear sus actividades a nivel individual con una precisión extraordinaria. Así, cada acción de un usuario de instrumentos digitales crea un rastro electrónico. Y debido a que estas pistas son de naturaleza electrónica, requieren poco espacio de almacenamiento.  De esta manera, los datos son inmediatamente cotejados, analizados y de nuevo puestos en circulación. Y mediante el aprendizaje de la máquina y la inteligencia artificial, estos registros de datos son capaces de predecir casi en tiempo real quién podría tomar medidas contra el estado.

Pero probablemente la estrategia estatal más efectiva de la tecnología digital es vincular diferentes tipos de datos. En la provincia de Sinkiang, por ejemplo, de esta manera, el gobierno se ha esforzado en someter a control a una minoría inquieta. Allí, el estado ha implementado un extenso sistema cerrado de vigilancia por video, drones y rastreadores GPS para seguir los movimientos de cada ciudadano.

Mediante la combinación de diversas fuentes de datos y el uso de técnicas como el reconocimiento facial, los sensores de huellas dactilares y las pruebas de ADN, ha sido posible vigilar y controlar la población regional con un grado extraordinario de precisión individual. Tan pronto como los datos indican la sospecha de que alguien se está pasando de la raya, se llama inmediatamente a la policía al lugar del incidente.

 

¿Y en el Occidente?

Incluso en los estados democráticos occidentales ya hay una eficiente red de vigilancia. Basta pensar en los datos que Facebook ha recogido de sus usuarios, o en los datos que Google se apropia en un día lleno de búsquedas.

Esto naturalmente da lugar a una tentación en los estados. En tiempos de crisis podrían exigir a las empresas que entreguen sus datos o algoritmos bajo amenaza de arresto. O simplemente podrían obligar a esas empresas a cooperar a través de reglamentos oficiales. Un estado, y especialmente un estado autoritario, tiene un hambre casi infinita de tecnología y poder informático. Es fácil imaginar lo que las empresas puedan ganar a cambio de la satisfacción de estas necesidades digitales.

La cooperación de las empresas con el estado en los USA no parece todavía igualar el nivel de centralización controlada por el estado China. Pero eso podría llegar muy rápido. Eso sería – como mencioné al principio – una especie de ironía de la historia reciente. Los ciudadanos tendrían que conformarse con el hecho de que su deseo de avanzar libertad individual haya ayudado a establecer una nueva forma de poder y control estatal hasta en el más mínimo detalle.

 

 

The dark side of artificial intelligence

Prague 9.11.2020

We offer a brief review of the book by Fred Turner, professor of Communication Sciences at Stanford University, USA.  In the Neue Zuercher Zeitung in Switzerland his main ideas on the subject were published a few months ago

https://www.youtube.com/watch?v=1Pql2nNR80k

https://www.youtube.com/watch?v=mhutZM8Hmt8

Previous observations by the editorial staff

Artificial intelligence (AI) is a scientific and technical event that will profoundly change our lives, in a not too distant horizon of a few years. Like all technological progress, it can also be used for evil, as we well know. But this does not justify demonizing progress, but rather to see in it a challenge that interpellates man to progress also in his moral profile, so open to the search for good.

AI will substitute man’s work in many productive processes and in the provision of services, for example, in mining, construction of buildings, roads and bridges, in agriculture and cattle raising, in the surveillance and regulation of automobile traffic, in medicine, etc., etc.  This will lead to a further reduction in working hours, to prevent unemployment, so that, in the end, more time can be devoted to the education of children, the family and the noble interests of man, for which there has not been enough time so far.

However, what could cause horrific consequences is the possibility that a government could use AI to establish a totalitarian tyranny, bypassing constitutional guarantees under the pretext, for example, of an epidemic… Signs that this risk is real can already be seen today.

———————————— End of previous observations.

 

Silicon Valley’s leading entrepreneurs – from Steve Jobs to Mark Zuckerberg – have announced that digital media will contribute to an egalitarian society, more collaborative and free from the tyranny of the state. At this point, perhaps they should not be so sure, because in recent years, people have begun to sense a disturbing irony: the very aspects of digital media that were believed to make our societies more democratic are in the process of undermining democratic institutions and norms.

The ease with which digital images and text can be altered is gradually undermining our confidence in the facts. In the US, one can almost feel how the social and cultural foundations of democratic debate, and with them the democratic state itself, are beginning to crumble. At the same time, the foundations of a new form of authoritarian government are emerging worldwide. States are not only developing and using their own technologies, for surveillance and propaganda purposes, but are also contributing to the work of national and international technology companies to achieve their ends.

In order to monitor each of its citizens comprehensively and individually, the People’s Republic of China uses Wechat, a system that is used for all aspects of life, from payment to agreements and reading the news. And in the US, companies like Palantir cooperate with government agencies – from local police forces to the National Security Administration (NSA).

Unlike paper or film, electronically stored data can be endlessly copied without affecting the original; it can be undone, turned back into the original, and sent around the world at the speed of light. This means that almost anyone can make their thoughts public anywhere, even anonymously, if they wish. Anyone can spread propaganda and disinformation at will, and each user, for his part, can immediately put his readings into circulation. In any remote corner of the Internet, lies can be told that sound like the truth and can be put into circulation around the world in a matter of minutes – and vice versa. And states barely have the means to stop such processes.

 

The Chinese model

This computer practice is taking China to its highest level of sophistication. For two decades, the Chinese government has imposed a combination of technological and regulatory measures to limit its citizens’ access to the global Internet and to restrict the activity of international companies within its own borders. The technology used is new, but this form of censorship is ancient. In fact, states have always used censorship techniques – as well as surveillance and propaganda – to control their citizens.

Digital technologies have dramatically expanded the possibilities of the Chinese state in all these dimensions. Wireless networks that allow the masses to communicate online help the state track their activities on an individual level with extraordinary precision. Thus, every action of a digital instrument user creates an electronic trail. And because these tracks are electronic in nature, they require little storage space.  In this way, data is immediately collated, analyzed and put back into circulation. And through machine learning and artificial intelligence, these data records are able to predict almost in real time who might take action against the state.

But probably the most effective state strategy of digital technology is to link different types of data. In Sinkiang province, for example, in this way, the government has made an effort to bring a restless minority under control. There, the state has implemented an extensive closed video surveillance system, drones and GPS trackers to follow the movements of each citizen.

By combining various data sources and using techniques such as facial recognition, fingerprint sensors and DNA testing, it has been possible to monitor and control the regional population with an extraordinary degree of individual accuracy. As soon as data indicates a suspicion that someone is crossing the line, the police are immediately called to the scene of the incident.

And in the West?

Even in Western democratic states there is already an efficient surveillance network. Just think of the data that Facebook has collected from its users, or the data that Google appropriates in a day full of searches.

This naturally gives rise to a temptation in the states. In times of crisis, companies could be required to hand over their data or algorithms under the threat of arrest. Or they could simply force those companies to cooperate through official regulations. A state, and especially an authoritarian state, has an almost infinite hunger for technology and computing power. It is easy to imagine what companies can gain in return for meeting these digital needs.

Business cooperation with the state in the USA does not yet seem to match the level of centralization controlled by the Chinese state. But that could come very quickly. That would be – as I mentioned at the beginning – a kind of irony of recent history. People would have to settle for the fact that their desire to advance individual freedom has helped establish a new form of state power and control down to the smallest detail.

 

 

 

 

 

 

 

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *