La semana pasada me pregunté si la inteligencia artificial (IA) es una burbuja, una bendición o una maldición. Mis respuestas fueron, en orden: “hasta cierto punto, sí, y sí”. Ahora yo quiero analizar más a fondo la última pregunta, sobre las “maldiciones”. Los temas que voy a considerar son: ¿cuán peligrosa es la IA?; ¿qué debemos hacer para contenerla?; y ¿funcionará alguna forma de regulación? Mis principales conclusiones serán que definitivamente es peligrosa, que sin duda deberíamos intentar regularla y que, sin embargo, con toda probabilidad, el intento fracasará.
Algunas personas me han dicho que no tengo derecho a opinar porque no soy un experto. Otras argumentan que debemos aceptar todo lo que nos ofrece la tecnología porque es la fuente del crecimiento económico. Ambas posturas están equivocadas. Una democracia es un proyecto político compartido. Todos tenemos derecho a participar en los debates sobre cómo gestionar las nuevas tecnologías peligrosas.
Esto era cierto cuando se inventó la bomba atómica. También lo es en el caso de la IA, la cual tendrá consecuencias mucho más complejas, pero también peligrosas. Además, el supuesto derecho a decidir sobre estas cuestiones que reclaman algunos titanes de la tecnología sin duda se perdió tras el enorme daño causado por los medios sociales a los jóvenes y al bien público de una información veraz.
OpenAI introduce medidas de seguridad robustas en ChatGPT, en colaboración con expertos en salud mental, para abordar las preocupaciones sobre el bienestar juvenil. Este enfoque surge tras incidentes trágicos, subrayando la creciente necesidad de regulación en la inteligencia artificial. (Foto: Composición Gestión MIX con imágenes de Kenneth Cheung / Lemon_tm / iStock)
LEA TAMBIÉN: Agentes de IA ya hacen compras de peruanos en 3 bancos más grandes: ¿pueden salirse de control?
¿Es descabellada la comparación entre la IA y las armas nucleares? No, porque la primera también podría acarrear graves daños, los cuales se pueden clasificar, a grandes rasgos, en tres categorías: un colapso de los valores humanos fundamentales; algunos peligros específicos de gran magnitud; y una disrupción generalizada.
Los seres humanos piensan, crean y actúan. ¿Qué sucederá cuando (o si) las máquinas piensen, e incluso creen y actúen, por nosotros? ¿Seguiremos esforzándonos por comprender o nos volveremos completamente dependientes? En resumen, ¿cambiará la IA no sólo lo que los seres humanos hacemos, sino también quiénes somos?
¿La IA es una persona?
Un aspecto fundamental de lo que significa ser humano es la responsabilidad. Este tema se hizo evidente cuando Javier Milei, el presidente de Argentina, anunció la creación de “la corporación no humana”. Como respondió Yuval Harari: “Los países que otorgan personalidad jurídica a las empresas de IA corren el riesgo de convertirse en algo para lo que los registros históricos no ofrecen ninguna analogía: no un Estado corporativo, sino un Estado de IA”.
LEA TAMBIÉN: Por qué el papa León XIV perturba a Silicon Valley
Legalmente, las compañías son “personas”. Pero las compañías de IA podrían tomar decisiones sin la intervención de personas. ¿De qué manera, y ante quién, sería responsable un programa de IA? Los directores ejecutivos que cometen delitos pueden ir a la cárcel. ¿Cuál es el equivalente para la IA? Como dice el papa León XIV, la IA es una “herramienta”. No es una persona. ¿Sufre? ¿Sangra? ¿Puede asumir responsabilidad moral? ¿Puede rendir cuentas de manera significativa? No. Además, esta cuestión de la responsabilidad no se limita a los negocios. ¿Quién es responsable de los crímenes de guerra una vez que la IA dirija ejércitos de robots?
La cuestión de la responsabilidad también se plantea en el caso de otras instituciones capaces de utilizar los recursos que ofrece la integración de la IA con otras tecnologías. Las posibilidades de vigilancia masiva son enormes. También lo son las de crear armas autónomas. La fabricación de falsedades, ultrafalsificaciones y estafas ya se ha potenciado enormemente. Estos avances podrían ser utilizados por los Estados, por actores privados o por ambos. ¿Cómo funcionarían la ley y la rendición de cuentas política en un mundo como ése? En un provocativo artículo de Substack, el economista Noah Smith incluso sostiene que la IA se apoderará del mundo.
La IA, ¿incontrolable?
Luego están los peligros más específicos. Uno obvio es la capacidad de disrumpir nuestra civilización, la cual depende de la tecnología cibernética. Ya tuvimos un atisbo de esto cuando Anthropic advirtió sobre la amenaza de Mythos para la ciberseguridad. Prácticamente todo de lo que dependemos a su vez depende de tales sistemas. Si la IA pudiera disrumpirlos, la vida se volvería radicalmente insegura y las posibilidades de extorsión serían ilimitadas. La posibilidad de diseñar patógenos letales también es aterradora.
LEA TAMBIÉN: Los millones que destinará China en data centers en los próximos años, ¿por qué?
Niall Ferguson, de la Institución Hoover, advierte que parte de lo que hace que la IA sea incontrolable es que está impulsada por dos frenéticas competencias simultáneas: una entre un pequeño número de compañías, y otra entre Estados Unidos y China. Hasta ahora, EE.UU. ha decidido no regular la competencia entre sus empresas, mientras que ni EE.UU. ni China están tratando de controlar la que existe entre ambos países. Ferguson sostiene que lo primero en gran medida se explica por lo segundo. Un acuerdo entre EE.UU. y China sobre la regulación de la IA es, según él, una condición necesaria para controlar la competencia al estilo de la “mafia” entre las principales compañías estadounidenses.
Por lo tanto, tal como señalé la semana pasada, estamos dentro de una trampa: los tecnólogos nos están catapultando, a una extraordinaria velocidad, hacia un nuevo mundo cuyas implicaciones ni comprendemos ni controlamos. Esto se debe, en parte, a que la IA es la más “general” de las tecnologías de uso general. Potencialmente, esto incluso podría significar el reemplazo de la inteligencia humana con inteligencia de máquina (IM). Las implicaciones, como ya he indicado, van mucho más allá de las preocupaciones sobre peligros específicos. La IA también afectará tanto nuestro sentido de identidad como seres humanos así como la forma en que organizamos y entendemos la sociedad: ¿deberían los programas ser capaces de actuar como personas, cuando ni sienten, ni son conscientes, ni tienen conciencia?
En cualquier caso, sin duda nos gustaría contener los mayores peligros, en especial los mencionados anteriormente. Por lo tanto, un camino sensato a seguir sería que EE.UU. y China identificaran y acordaran algún tipo de tratado de desarme en materia de IA. Eso podría hacer que todo el mundo se sintiera más seguro.
Pero hay una buena noticia: el temor a las disrupciones económicas y sociales que se avecinan está preocupando a la gente. Acertadamente, la gente cree que el futuro es demasiado importante como para dejarlo en manos de unos pocos “amos de la tecnología”, del mismo modo que la guerra es demasiado importante como para dejarla en manos de los generales. En vista de ello, podría abrirse la posibilidad de introducir regulaciones. La próxima semana analizaré qué medidas podrían adoptarse al respecto.
Escrito por Martin Wolf
