autor: JARON LANIER – traducción: Fernando Peregrín

Las noticias del día a menudo incluyen una acerca de algún desarrollo en inteligencia artificial (A.I., por sus siglas en inglés): una máquina que sonríe, un programa que predice el gusto humano en el apareamiento o en la música, un robot que enseña lenguas extranjeras a los niños. Este constante fluir de historias sugiere que las máquinas se están haciendo cada vez más inteligentes y autónomas, una nueva forma de vida, y que debemos pensar en ellas como criaturas compañeras en vez de herramientas. Pero estas conclusiones no están simplemente cambiando cómo pensamos acerca de los ordenadores – están reformando las asunciones básicas de nuestras vidas en maneras equivocadas y hasta perjudiciales.

Yo mismo he trabajado en proyectos tales como algoritmos visuales que pueden detectar expresiones faciales humanas en orden de animar avatares y reconocer individuos. Algunos dirán que esos también son ejemplos de A.I., pero yo diría que es investigación en un problema específico de software que no debe confundirse con las cuestiones más profundas de la inteligencia o la naturaleza de la personalidad. Igualmente importante, mi posición filosófica no ha impedido hacer progresos en mi trabajo. (Esta no es una distinción insignificante: cualquiera que rehúse creer, digamos, en la relatividad general no será capaz de construir un sistema de navegación GPS)

De hecho, los principios fundamentales de la investigación en A.I. pueden a menudo ser más útiles cuando se interpretan totalmente sin el concepto de A.I. Por ejemplo, científicos de I.B.M. recientemente demostraron una máquina que “respondía preguntas” que se designó para jugar en el concurso televisivo “Jeopardy”. Supóngase que I.B.M. hubiese prescindido de la teatralidad, declarando que habían hecho algo mejor que Google y hubieran aparecido con un nuevo motor de busca basado en frases. Este encuadramiento de exactamente la misma tecnología le hubiese hecho ganar al equipo de I.B.M. tanto (merecido) reconocimiento como si hubiesen anunciado un avance en inteligencia artificial, pero hubiese también educado al público acerca de cómo esa tecnología pueda de hecho usarse con la máxima eficiencia.

Otro ejemplo es la forma en que se presentan los robots profesores. Para principiantes, estos robots no son en absoluto alambicados – dispositivos robóticos en miniatura usados en cirugía endoscópica están infinitamente más avanzados, pero no concitan la misma atención porque no se presentan con el aura A.I.

Más aún, esos robots son simplemente una forma de guiñol de alta tecnología. Los niños son los que hacen que la transacción ocurra – teniendo conversaciones e interactuando con esas máquinas, pero esencialmente enseñándose ellos mismos. Esto simplemente demuestra que los humanos somos criaturas sociales de forma que si una máquina se presenta en una forma social, la gente lo adoptará.

Lo que más me preocupa de esta tendencia, sin embargo, es que permitiendo a la inteligencia artificial cambiar nuestro concepto de personas, estamos quedándonos expuestos a la otra cara de la moneda: pensamos en la gente como ordenadores, justamente como pensamos en los ordenadores como personas.

En un reciente ejemplo, Clay Shiky, un profesor en del Programa de Telecomunicaciones Interactivas de la Universidad de Nueva York, ha sugerido que cuando la gente se dedica a actividades aparentemente triviales como “re-Tweeting”, confiando a Twitter un mensaje para otra persona, algo no trivial – pensamiento real y creatividad – tiene lugar a gran escala, como dentro de un mente global. Esto es, la gente realiza actividades como las de las máquinas, copiando y transmitiendo información; Internet, como un todo, se asevera que realiza la parte creativa, la solución del problema, el hacer la conexión. Esto es una devaluación del pensamiento humano.

Considérese el acto de escanear un libro en forma digital. El historiador George Dyson ha escrito que un ingeniero de Google le dijo una vez: “No estamos escaneando todos esos libros para que los lea la gente. Estamos escaneándolos para que se lean mediante una A.I.” Mientras que está aún por ver lo que el escaneo de libros por Google

da de sí, la visión centrada en la máquina del proyecto puede animar a hacer software que trate a los libros como grano para un molino, descontextualizando fragmentos en una gran base de datos, más que como las distintas expresiones de los autores individuales. En esta aproximación el contenido de los libros será atomizado en bits de información para ser agregados, y los autores mismos, los sentimientos de sus voces, sus diferentes perspectivas, se perderán.

.

Lo que todo esto viene a significar es que la idea de inteligencia artificial nos proporciona la cobertura para evitar la responsabilidad, pretendiendo que las máquinas pueden tomar más y más responsabilidad humana. Esto  sirve incluso para cosas en las que no hemos pensado como inteligencia artificial, como las recomendaciones hechas por Netflix[1] y Pandora[2]. Viendo películas y escuchando música que se nos han sugerido por un algoritmo es relativamente inocuo, supongo. Pero espero que de vez en cuando los usuarios de esos servicios resistan las recomendaciones. Nuestra exposición al arte no debe estar forzada por un algoritmo que nosotros meramente queremos creer predice nuestro gusto con exactitud. Esos algoritmos no representan emociones o significados, solamente estadísticas y correlaciones.

Lo que hace esto doblemente frustrante es que mientras en Silicon Valley puede vender inteligencia artificial a los consumidores, nuestra industria ciertamente no aplicaría la misma técnica automatizada a alguno de nuestros trabajos. Eligiendo elementos de diseño de un nuevo “smart phone”[3], digamos, se considera un juego demasiado consecuente. Los ingenieros no parecen bien preparados para creer en sus algoritmos inteligentes lo suficiente como para ponerlos enfrente del director General de Apple, Steve Jobs, o alguna otra persona con una sensibilidad real para el diseño.

Pero del resto de nosotros, arrullados por el concepto de cada vez más inteligente A.I., se espera que confiemos en algoritmos para determinar nuestras elecciones estéticas, el progreso de un estudiante, el riesgo crediticio del propietario de una casa o de una institución. Haciendo eso, solamente terminaremos equivocados en la capacidad de nuestras máquinas y distorsionando nuestras propias capacidades como seres humanos. Debemos, empero tomar la responsabilidad de cada tarea que realiza una máquina y comprobar doblemente cada solución que nos ofrezca el algoritmo, justo como siempre miramos en ambos sentidos cuando cruzamos una intersección, incluso si el semáforo se ha puesto verde.

Cuando pensamos en los ordenadores como inertes, herramientas pasivas en vez de gente, se nos premia con una visión mas clara, meno ideológica de lo que está pasando – con las máquinas y con nosotros mismos. Entonces, ¿por qué fuera del atractivo teatral para consumidores y reporteros, deben los resultados de ingeniería presentarse con luz Frankesteineana?

La respuesta es que los ingenieros informáticos son humanos, y estamos tan aterrados por la condición humana como cualquier otra persona. Nosotros, la elite técnica, buscamos alguna vía de pensar que nos de una respuesta a la muerte, por ejemplo. Esto ayuda a explicar el encanto de la Singularity Univesity. Esta influyente institución del Silicon Valey predica una historia que es como sigue: un día en un futuro no muy distante, internet se fusionará en una super-inteligencia A.I., infinitamente más inteligente que ninguno de nosotros individualmente y de todos nosotros combinados; devendrá vivo en el parpadeo de un ojo, y dominará el mundo antes que los humanos siquiera nos demos cuenta de lo que está pasando.

Algunos piensan que el nuevo internet sintiente decidirá entonces matarnos a todos; otros piensan que sería generoso y nos digitalizaría como Google está digitalizando viejos libros, de forma que podremos vivir para siempre como algoritmos dentro de una mente global. Sí, suena como muchas diferentes películas de ciencia ficción. Si, suena a chifladura cuando se expresa tan crudamente. Pero esas son ideas extraordinariamente corrientes en el Silicon Valley; estos son principios que sirven de guía y no como mero entretenimiento, para muchos de los más influyentes “tecnologistas”.

No hace falta decir que no podemos contar con la aparición de un sensor que detecte el alma y que verificaría que la consciencia de una persona se ha virtualizado e inmortalizado. Ciertamente no tenemos un sensor así hoy día para confirmar ideas metafísicas acerca de las personas, o incluso para reconocer los contenidos de la mente humana. Todos los pensamientos acerca de la consciencia, las almas y cosas parecidas se basan en la fe, lo que nos sugiere algo remarcable: lo que estamos viendo es una nueva religión en la cultura ingenieril..

Lo que me gustaría señalar, empero, es que una gran parte de la confusión y el rencor en el mundo de hoy concierne a la tensión en la frontera entre religión y modernidad – sea la desconfianza entre los islámicos o cristianos fundamentalistas respecto de la cosmovisión científica, o incluso la incomodidad con que a menudo se acoge el progreso en campos como en la ciencia del cambio climático, o en la investigación con células madre.

Si los “tecnologistas” están creando su propia ultramoderna religión, y es una en la que a la gente se le dice educadamente que sus mismas almas se han convertido en obsoletas, podemos esperar más y peores tensiones. Pero si la tecnología se presentara sin su bagaje metafísico, ¿es posible que la modernidad no haga que la gente se sienta inconfortable?

La tecnología es esencialmente una forma de servicio, Trabajamos para hacer un mundo mejor. Nuestros inventos pueden aligerar inconvenientes, reducir la pobreza y el sufrimiento y algunas veces hasta traer nuevas formas de belleza al mundo. Podemos dar a la gente más opciones para actuar moralmente, pues las personas con medicinas, vivienda y agricultura les es más fácil ser amables que aquellos que están enfermos y hambrientos.

Pero la civilidad, la mejora humana, estas son aún elecciones. Por esto científicos e ingenieros deben presentar la tecnología en formas que no confundan esas elecciones.

Servimos mejor a la gente cuando dejamos nuestras ideas religiosas fuera de nuestro trabajo.

Jaron Lanier es un arquitecto socio en Microsoft Research e innovador en residencia en la Annenberg School de la University of Southern California, y además, es autor, su más reciente libro se titula “You Are Not Your Gadget.”

---

[1] Una empresa dedicada a la venta de películas “on line”

[2] Ibid.

[3] Teléfono móvil “inteligente”