Tercera Cultura, Traducciones
comentarios 3

Inteligencia artificial: pensemos en protopía, no en utopía o distopía

La inteligencia artificial es un tema a medio camino entre la ciencia y la literatura, por ahora más cerca de esta última. Los entusiastas de la IA, sin embargo, acostumbran a imaginar futuros utópicos, en los que la humanidad es salvada por robots, o bien futuros distópicos inspirados en la ciencia, en los que la humanidad es destruída súbitamente por la primera generación de máquinas inteligentes. Para I.J. Good la superinteligencia sería “nuestra invención final”. Michael Shermer se sitúa a medio camino, proponiendo un porvenir sin sobresaltos. Algo que llaman “protopías”.

Traducción: Verónica Puertollano

Michael Shermer

Michael Shermer

Los partidarios de la Inteligencia Artificial tienden a proyectar un futuro utópico en el que benévolos ordenadores y robots sirven a la humanidad y nos permiten alcanzar una prosperidad sin límites, acabar con la pobreza y el hambre, vencer la enfermedad y la muerte, lograr la inmortalidad, colonizar la galaxia y, al final, conquistar incluso el universo alcanzando el punto Omega donde nos convertimos en un dios omnisciente y omnipotente. Los escépticos de la IA visualizan un futuro distópico donde máquinas y robots malévolos toman completamente el control sobre nosotros, haciéndonos esclavos o sirvientes, o llevándonos a la extinción, y poniendo fin a (o incluso revirtiendo) siglos de progreso científico y tecnológico.

La mayoría de las profecías se basan en una falsa analogía entre la naturaleza humana y la naturaleza informática, o entre la inteligencia natural y la inteligencia artificial. Somos máquinas pensantes, producto de la selección natural que también nos ha diseñado en las emociones para simplificar el proceso de pensamiento. No necesitamos computar el valor calórico de los alimentos; simplemente tenemos hambre y comemos. No no necesitamos calcular las proporciones entre cadera y cintura o entre hombro y cintura de nuestras potenciales parejas; simplemente nos atrae alguien y nos emparejamos. No necesitamos calcular el coste genético de criar a los hijos de otra persona si nuestra pareja es infiel; simplemente sentimos celos. No necesitamos calcular el daño de un intercambio injusto; simplemente sentimos injusticia y deseamos la venganza. Todas estas emociones fueron incorporadas a nuestra naturaleza por la evolución; nosotros no hemos diseñado ninguna de esas emociones para nuestros ordenadores. Así que el temor a que los ordenadores se vuelvan malvados no tiene base, porque nunca se les ocurrirá emprender tales acciones contra nosotros

Además, las visiones tanto utópicas como distópicas de la IA están basadas en una proyección del futuro bastante distinta a cualquier cosa que nos haya proporcionado la historia. En vez de en utopía o distopía, pensemos en la protopía, un término acuñado por el futurista Kevin Kelly, que lo describió así en una conversación de Edge: «Me llamo a mí mismo protopista, no utopista. Creo en el progreso de una forma incremental donde cada año es mejor que el anterior, pero no por mucho, solo por una micro cantidad». Casi todo el progreso en ciencia y tecnología, incluidos los ordenadores y la inteligencia artificial es de naturaleza protópica. Las tecnologías rara vez llevaron, si es que lo hicieron, a sociedades utópicas o distópicas.

Tomemos el automóvil. Mi primer coche fue un Ford Mustang de 1966. Tenía dirección asistida, frenos de motor y aire acondicionado, todo ello tecnología relativamente puntera en aquel momento. Todos los coches que he tenido desde entonces —en paralelo a la evolución de los coches en general— han sido paulatinamente más inteligentes y seguros; no a grandes pasos, sino de forma incremental. Pensemos en el salto imaginario de los años 50 desde las viejas tartanas al coche volador. Nunca sucedió. En vez de eso, lo que tuvimos fueron mejoras acumulativas durante décadas que nos llevaron a los coches inteligentes de hoy con sus ordenadores de a bordo y sus sistemas de navegación, sus airbags y sus bastidores y carrocerías de metal compuesto, sus radios por satélite y sus teléfonos de manos libres, y motores eléctricos e híbridos. Acabo de cambiar un Ford Flex de 2010 por una versión de 2014 del mismo modelo. Externamente son casi indistinguibles; internamente hay decenas de minúsculas mejoras en cada sistema, desde el motor y el conjunto de transmisión a la navegación y la cartografía, pasando por el control de la climatización y la radio y la interfaz del ordenador.

Ese progreso protópico incremental es lo que vemos en la mayoría de las tecnologías, incluida y especialmente la inteligencia artificial, que seguirá sirviéndonos del modo que deseemos y necesitemos. En vez del Gran Salto Adelante o de la Gran Periodo hacia Atrás, pensemos en el Pequeño Paso Adelante.

Publicado en EDGE (¿Qué piensan las máquinas qué piensan?) y en El Mundo por dentro y por fuera

3 Comentarios

  1. Excelente entrada, gracias a Arcadi. Espero que publiquen más respuestas a la pregunta de Edge. Saludos.

  2. idea21 says

    No veo la relevancia de esto de la «protopía». Si los avances en IA van a ser pausados o revolucionarios eso dependerá de las características de la tecnología, pero en cualquier caso lo que interesa es estar preparados para cuando lleguen los resultados, cualquiera que sean estos y cuando sea que lleguen estos.

    «La mayoría de las profecías se basan en una falsa analogía entre la naturaleza humana y la naturaleza informática, o entre la inteligencia natural y la inteligencia artificial. Somos máquinas pensantes, producto de la selección natural que también nos ha diseñado en las emociones para simplificar el proceso de pensamiento.»

    Si las emociones cumplen una función útil en el proceso de pensamiento, en tal caso, la IA también tendría que contar con ellas y no habría problema en programarlas de tal forma, digo yo…

    Y si otro método, aparte del de las emociones, resulta ser más eficiente, entonces la IA no tomará esa opción.

    Recordemos que la inteligencia consiste en resolver problemas. Emocionalmente o no emocionalmente.

    Eso sí: nosotros propondremos a la IA cuál es el problema a resolver… Lo que ha dado lugar en la ciencia-ficción a muy entretenidas especulaciones acerca de si el mecanismo IA entendería mal la orden…

    http://es.wikipedia.org/wiki/HAL_9000

    http://es.wikipedia.org/wiki/No_tengo_boca_y_debo_gritar

  3. Moises says

    ¿Y si hubieras cambiado tu caballo por un Ford T?

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *