General
comentarios 3

Inteligencia artificial: ¿Por qué preocuparse?

Se ha escrito mucho sobre las preocupaciones respecto a la inteligencia artificial, y respecto a un mundo futuro en el que las máquinas puedan «pensar», donde esto último abarca desde la toma de decisiones autónoma y sencilla a la plena autoconciencia. No comparto la mayoría de estas preocupaciones, y personalmente estoy muy emocionado por la posibilidad de experimentar máquinas pensantes, tanto por las oportunidades que ofrecen para la posible mejora de la condición humana, como por los conocimientos que sin duda proporcionarán sobre la naturaleza de la conciencia.

kraussPrimero, dejemos una cosa clara. Incluso con el crecimiento exponencial del almacenamiento informático y de la potencia de procesamiento de los últimos 40 años, las computadoras pensantes requerirán una arquitectura digital que guarda poco parecido con las actuales computadoras, y tampoco es probable que se vuelvan competitivas respecto a la conciencia a corto plazo. Un sencillo ejercicio mental de física respalda esta afirmación:

Dado el actual consumo de energía de las computadoras electrónicas, una computadora con el almacenamiento y la capacidad de procesamiento de la mente humana requeriría más de 10 teravatios de potencia, en un factor de dos del consumo de energía actual de toda la humanidad. Sin embargo, el cerebro humano emplea unos 10 vatios de potencia. Esto representa una discordancia de un factor de 1012, o un millón de millones. Durante la última década, el tiempo de duplicación del megaFLOP por vatio ha sido de tres años. Aun asumiendo que la ley de Moore siguiese sin reducirse, esto significa que se tardaría unos 40 tiempos de duplicación, o 120 años, en alcanzar una disipación de energía comparable. Además, cada duplicación en la eficiencia requiere un cambio relativamente radical en la tecnología, y es altamente improbable que se llegara a estos 40 tiempos de duplicación sin que básicamente cambie la forma en que las computadoras computan.

Ignorando por un momento las dificultades logísticas, no se me ocurre otro impedimento de principios para desarrollar una verdadera máquina autoconsciente. Antes, la toma de decisiones con máquinas habrá tenido un papel cada vez más importante en nuestras vidas. Algunas personas lo consideran un motivo de preocupación, pero esto lleva ocurriendo desde hace décadas. Empezando tal vez por las rudimentarias computadoras llamadas ascensores, que determinan cómo y cuándo llegaremos a nuestros apartamentos, hemos permitido a las máquinas que nos guíen de forma autónoma. Volamos cada semana en aviones que son guiados por pilotos automáticos, y nuestros coches toman decisiones sobre cuándo deben ser reparados o cuándo se deben inflar sus neumáticos, y probablemente tengamos a la vuelta de la esquina coches que se conducen completamente solos.

Para muchas, si no la mayoría, de las tareas relativamente automáticas, las máquinas son claramente mejores que los humanos tomando decisiones, y deberíamos alegrarnos de que tengan el potencial de hacer que las actividades de cada día sean más seguras y eficientes. Cuando lo hacen, nosotros no perdemos el control, porque creamos las condiciones y los algoritmos iniciales que determinan la toma de decisiones. Yo imagino la interfaz entre la computadora y el hombre como si tuviésemos un socio muy útil, y cuánto más inteligentes se vuelvan las máquinas, más útiles podrán ser como socios.

Cualquier relación entre socios necesita cierto nivel de confianza y pérdida de control, pero si los beneficios suelen superar a las pérdidas, mantenemos la asociación. Si no es así, rompemos la relación. No veo la diferencia en que el socio sea un humano o una máquina.
Una de las áreas donde quizá tengamos que ser especialmente cautos al asociarnos es en las relacionadas con la infraestructura del dominio y el control en la guerra moderna. Dado que tenemos la capacidad de destruir gran parte de la vida humana en este planeta, parece preocupante imaginar que las máquinas inteligentes puedan controlar un día el aparato de toma de decisiones que lleva a pulsar el botón rojo, o incluso lanzar un ataque menos catastrófico. Creo que esto se debe a que cuando se trata de tomar decisiones, a menudo confiamos en la intuición y las comunicaciones interpersonales tanto como en el análisis racional —la crisis de los misiles en Cuba es un buen ejemplo— y asumimos que las máquinas inteligentes no tendrán estas capacidades.

Sin embargo, la intuición es producto de la experiencia, y la comunicación, en el mundo moderno, no se restringe al teléfono o a las conversaciones cara a cara. Una vez más, el diseño inteligente de sistemas que incorporan numerosas redundancias y salvaguardas me sugiere que, incluso en caso de hostilidades violentas, éste no sería peor que la toma de decisiones humana.

Esto en cuanto a las posibles preocupaciones. Quisiera acabar con lo que creo que es el aspecto científico más emocionante de la inteligencia artificial. Las máquinas nos ayudan actualmente a hacer la mayor parte de nuestra ciencia, calculando por nosotros. Más allá de la simple programación númerica, la mayoría de los estudiantes de física dependen ahora de Mathematica, que hace la mayor parte de la manipulación algebraica simbólica que solíamos hacer nosotros cuando yo era estudiante. Pero esto es solo la superficie.

Me interesa en qué se centrarán las máquinas cuando lleguen a elegir las preguntas y también las respuestas. ¿Qué preguntas elegirán? ¿Qué considerarán interesante? ¿Harán física de la misma manera que nosotros? Seguramente las computadoras cuánticas, si alguna vez se vuelven funcionales, tendrán una mejor comprensión «intuitiva» de los fenómenos cuánticos de la que tendremos nosotros. ¿Podrán hacer un progreso mucho más rápido en el desentrañamiento de las leyes fundamentales de la naturaleza? ¿Cuándo ganará una máquina por primera vez un premio Nobel? Sospecho que, como siempre, las preguntas más interesantes son aquellas en las que aún no hemos pensado.

Publicado en EDGE. Traducción: Verónica Puertollano

3 Comentarios

  1. El proyecto Cerebro de la Unión Europea cuenta con argumentos similares al del artículo publicado en EDGE y se echó encima la reacción de 500 prestigiosos científicos cognitivos que firmaron una carta pública crítica a la UE, lo cual implicó una revisión completa de los supuestos asumidos por los científicos del proyecto.

    Hablar a favor de la tecnología inteligente parece fácil,como hablar a favor de las redes sociales, todo el sistema depende de los resultados que logramos con la tecnología.

    El problema insalvable para los argumentos defensores de la «inteligencia artificial con capacidad de tomar decisiones autónomas» es que existen muchísimas investigaciones demostrando experimentalmente el condicionamiento cognitivo negativo que puede generar un medio tecnológico, por ejemplo, con los smartphones. Se cae la cientificidad de un argumento al omitir la ampliación conceptual de integrar los hechos observados por las investigaciones neurocientíficas. Omitir esto, en un tema como la inteligencia artificial, es querer levantarse del piso tirando de los cordones de los botines.

    El problema del condicionamiento cognitivo es evidente globalmente, incluyendo a intelectuales, científicos, académicos y gente de todas las condiciones y clases sociales.

    Si es cierto que en el cerebro lo que no se usa se pierde, cuando una tecnología nos asiste de manera formidable para obtener RESULTADOS POSITIVOS a expensas de mayor pasividad cognitiva -cultural e individual – tendemos a alejarnos de lo real, a pesar de que nos guste más considerar que tenemos los pies mejor puestos en la tierra que quienes advierten sobre cierto despegue del piso.

    La ilusión del control va de la mano con la ilusión de conocer. La verdad personalizada no es lo real. Y lo real no se esconde, lo escondemos, cómodamente, gracias a la tecnología que nos muestra lo que nos gusta y nos da excelentes resultados…

    Podría ser innecesario aprender con esfuerzo cognitivo, por ejemplo, con los traductores instantáneos en nuestros dispositivos, así como no calculamos mentalmente si nos habituamos a la calculadora.

    No es lo mismo usar una tecnología auxiliar que amplifica y mejora los resultados que una tecnología que mejora los resultados en cosas que el cerebro hacía y puede hacer naturalmente pero que va dejando de hacer gracias a la comodidad y los fantásticos resultados.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *