del Mensajero Psi

 

Cuando la inteligencia deja de ser
humana

De la ciencia ficción a la inteligencia artificial

Durante décadas temimos que las máquinas se rebelaran contra nosotros. Hoy surge una posibilidad más inquietante...

Que no necesiten hacerlo.

Ficciones y Realidades

En Matrix (1999), Neo descubre una humanidad sometida a las máquinas sin ser consciente de ello

Durante décadas, la inteligencia artificial perteneció principalmente al terreno de la especulación. La ciencia ficción podía imaginar máquinas capaces de superar a sus creadores porque todavía existía una distancia cómoda entre aquellas historias y la tecnología cotidiana, una distancia comenzó a reducirse… No porque hayamos construido las máquinas que aparecían en aquellas películas, sino porque algunas de las preguntas que proponían dejaron de necesitar un futuro lejano para resultar pertinentes.

Las película Terminator (1984) imaginó el problema desde el enfrentamiento: La Inteligencia Artificial llamada Skynet alcanza suficiente autonomía para identificar a la humanidad como una amenaza y actuar contra ella. Por otro lado, Matrix (1999) propuso algo diferente: una humanidad que ha perdido el control sin siquiera ser consciente de ello. En un caso, la máquina se vuelve contra su creador; en el otro, construye las condiciones bajo las cuales ese creador percibe el mundo. Eran ficciones, si, pero la pregunta que planteaban ya no pertenece exclusivamente al cine.

Lo interesante no es preguntarnos cuánto acertaron esas películas al imaginar nuestra tecnología. Ninguna necesita funcionar como una profecía para conservar su valor. La ciencia ficción exagera posibilidades para volver visibles sus consecuencias y, al hacerlo, puede formular preguntas mucho antes de que tengamos necesidad de responderlas. Hoy no vivimos bajo el dominio de Skynet ni dentro de Matrix, pero sí comenzamos a convivir con sistemas capaces de intervenir en la información que recibimos y en procesos que antes dependían exclusivamente de decisiones humanas.

La Etica en Ficcion

En Yo, robot (2004), un rescate enfrenta el cálculo de probabilidades con el juicio moral: ¿elegir al hombre que tiene más posibilidades de sobrevivir o a una pequeña niña?

Isaac Asimov convirtió uno de los grandes problemas de la relación entre humanos y máquinas en una pregunta aparentemente sencilla: ¿puede programarse aquello que consideramos correcto? Sus Tres Leyes de la Robótica establecían principios destinados a proteger al ser humano, pero sus relatos exploraban constantemente los conflictos que aparecían al intentar aplicarlos. Una norma puede parecer absoluta hasta que dos vidas, dos deberes o dos consecuencias obligan a elegir entre ellas.

La película Yo, robot (2004), inspirada en las ideas de Asimov aunque no directamente en uno de sus relatos, plantea esta diferencia con especial claridad. Spooner recuerda el accidente en el que dos automóviles caen al agua. Un robot tiene la posibilidad de salvarlo a él o a una niña, pero calcula que Spooner posee mayores probabilidades de sobrevivir y lo elige. Para la máquina, la decisión es racional: salvar a quien estadísticamente tiene más posibilidades de vivir. Para Spooner, en cambio, había algo que el porcentaje era incapaz de representar. Como explica al recordar el accidente, un humano habría comprendido que debía intentar salvar a la niña.

Allí aparece la resistencia hacia “lo conveniente”. Salvar al más débil, renunciar a una ventaja, esperar a quien quedó atrás o arriesgarse por alguien con menores probabilidades puede resultar ineficiente desde una lógica puramente instrumental. Sin embargo, los principios éticos existen también para establecer límites a aquello que sería más rápido, rentable o estadísticamente favorable. El desafío de una inteligencia artificial no consiste únicamente en calcular correctamente las consecuencias, sino en enfrentarse a una pregunta que ningún porcentaje resuelve por sí solo: aunque esta sea la opción más conveniente, ¿es también la correcta?

La Pasos Agigantados de la IA

Dario Amodei, al frente de Anthropic, una de las compañías que combina el desarrollo de modelos de IA con la investigación de sus riesgos.

 

El desarrollo de la inteligencia artificial presenta una paradoja particular: algunas de las advertencias más importantes sobre sus riesgos provienen de las mismas organizaciones que trabajan para hacerla cada vez más capaz. Ya no se trata únicamente de imaginar aquello que una IA podría hacer en el futuro. Los propios laboratorios estudian sus vulnerabilidades, establecen límites y analizan las formas en que estos sistemas pueden ser utilizados con fines perjudiciales.

Anthropic ofrece un ejemplo concreto de por qué existen esas preocupaciones. La compañía informó haber detectado intentos de utilizar Claude para ciberataques, propaganda, espionaje y otras actividades potencialmente peligrosas, y sostuvo haber intervenido para bloquear esos usos. La IA aparece así en dos lugares simultáneamente: como una tecnología cuyas capacidades se intenta expandir… y como una tecnología cuyos límites deben construirse a medida que esas capacidades aumentan.

Alinear una inteligencia

 

Ayudar a quien queda atrás puede costarnos una ventaja. Alinear una inteligencia implica preguntarse cómo incorporar valores que no se reducen a obtener el mejor resultado.

Cooperar entre seres humanos supone algo más que perseguir un mismo objetivo. Incluso cuando existen desacuerdos, compartimos ciertas experiencias que influyen sobre nuestras decisiones tales como el miedo, el sufrimiento, la prdida, la injusticia o la necesidad de proteger a otros. Una inteligencia artificial puede reconocer estos conceptos, describirlos e incorporarlos a respuestas pero no necesita experimentarlos para llegar a una conclusión. Esta es la clave principal en donde aparece una diferencia fundamental entre comprender una situación y formar parte de la experiencia que le otorga significado.

Una máquina orientada hacia la optimización puede enfrentarse a una situación preguntándose: “¿Cuál es el resultado óptimo?”. Una persona puede introducir una pregunta diferente: “¿Qué es lo correcto, aunque no sea lo óptimo?”. La diferencia parece pequeña, pero modifica completamente el criterio de una decisión. Aquello que produce el mejor resultado cuantificable no necesariamente coincide con aquello que una sociedad considera justo, digno o moralmente aceptable.

Nuestra conducta está llena de decisiones que contradicen una lógica estrictamente instrumental. Salvamos al más débil, esperamos a quien quedó atrás, perdonamos, renunciamos a una ventaja, evitamos aprovecharnos de alguien vulnerable o incluso arriesgamos nuestra propia vida por otra persona, etc etc… Desde una perspectiva puramente eficiente, algunas de estas elecciones pueden parecer difíciles de justificar. Sin embargo, es precisamente aca donde la cooperación deja de ser solamente coordinación entre inteligencias y se convierte en una relación sostenida por valores que no siempre pueden reducirse a un cálculo.

Esta distancia entre reproducir una conducta humana y asumir lo que implica también aparece en el lenguaje. 
¿Qué significa que una inteligencia artificial diga «te entiendo» o «prometo ayudarte»? 
Te invitamos a leer  
Hablar es actuar: la performativa y la inteligencia artificial 
en donde exploramos estas preguntas a partir de la teoría de los actos de habla de J. L. Austin, para pensar qué ocurre cuando las palabras pueden generar confianza sin que haya alguien capaz de responder por ellas.