Nuestra última invención: la inteligencia artificial y el fin de la era humana

“. . . una lectura excelente para tecnófilos y lectores que deseen echar un vistazo al futuro cercano. . . »

¿Son las computadoras «pensantes» el amanecer de un futuro brillante o los presagios de la ruina para la raza humana?

La inteligencia artificial (IA), la ciencia y la ingeniería para hacer máquinas inteligentes o «pensantes» es un término acuñado hace 60 años y ahora es un lenguaje común. Si bien inicialmente era materia de ciencia ficción, la llegada de Watson (la computadora que jugó el programa de juegos de televisión Jeopardy), Deep Blue (la computadora que juega al ajedrez,) Siri (la sirvienta «humana» de Apple) y Dragon NaturallySpeaking (el discurso programa de reconocimiento que se está utilizando para escribir esta revisión), dichos programas se han convertido en realidad.

En Nuestra última invención: la inteligencia artificial y el fin de la era humana, el autor James Barrat examina tanto el potencial como el riesgo de máquinas cada vez más sofisticadas e inteligentes que pueden «pensar».

La mayoría de la gente podría suponer que computadoras tan sofisticadas inevitablemente serían una bendición increíble para el desarrollo, la productividad y la existencia humanos. Hasta la fecha, la integración del hombre y la máquina ha sido relativamente fluida y «amigable con los humanos».

Este libro presenta un caso importante de que sin un cuidado extraordinario en nuestra planificación, las potentes máquinas «pensantes» presentan al menos tantos riesgos como beneficios. Quizás incluso presenten consecuencias catastróficas para la raza humana. A partir de entrevistas con científicos que crean Inteligencia Artificial para robótica, búsqueda en Internet, minería de datos, reconocimiento de voz y facial y otras aplicaciones, se exploran en profundidad los beneficios y consecuencias de este desarrollo.

Una creencia común es que las máquinas que podrían imitar y / o superar al cerebro humano están a muchas décadas de distancia, pero se citan muchos ejemplos que ahora son funcionales. Las computadoras ya sustentan nuestro sistema financiero y nuestra infraestructura civil de energía, agua y transporte. Los hospitales, los automóviles y los electrodomésticos ahora se guían por programas informáticos. Prácticamente todos los algoritmos de compra / venta realizados en Wall Street funcionan de forma autónoma sin guías humanas, excepto las instrucciones del software. Operan a una velocidad deslumbrante, pero ya han creado más de una debacle financiera.

Incluso al leer y revisar este libro, ha habido informes de automóviles autónomos, la capacidad de controlar un brazo de robot únicamente con ondas cerebrales y una diadema que puede monitorear y responder a las ondas cerebrales en las compras minoristas.

El ritmo del avance tecnológico hacia las máquinas «pensantes» se producirá a un ritmo exponencialmente creciente. No sólo continuará el ingenio humano, sino que las propias máquinas crearán software y dispositivos nuevos y más sofisticados.

Desde el momento en que una máquina alcanza el nivel de inteligencia humana (conocida como AGI o inteligencia artificial general), las máquinas se auto-mejorarán rápidamente hasta el punto de ASI (superinteligencia artificial). Se podría suponer que esto es un progreso definitivo; Sin embargo, existen considerables incógnitas y riesgos.

Inherente a la codificación de las máquinas es la orientación a la meta para lograr resultados prohibidos. A medida que las máquinas adquieren conciencia de sí mismas, se mejoran a sí mismas y se conservan por sí mismas, estos dispositivos pueden generar consecuencias peligrosas e incluso catastróficas para los seres humanos que no pueden cambiarse o anularse fácilmente.

No es necesario postular máquinas «malvadas» o mentes maestras criminales que usarán computadoras para sus propios fines. Las máquinas con ASI pueden intentar lograr sus objetivos de formas que pueden ser imparables o ser dañinas para los humanos de una manera totalmente no planificada, más como un efecto secundario que como un efecto directo.

Los seres humanos han tenido una tendencia a antropomorfizar objetos y máquinas inanimados. Los hacemos amigables y asumimos que nos ayudarán en lugar de lastimarnos. Fue encantador ver al personaje de Tom Hank en Castaway lidiando con un voleibol llamado Wilson de una manera interpersonal. Del mismo modo, el personal de ordenanzas militares a menudo se apega mucho a sus robots y les da nombres e incluso funerales cuando son destruidos.

Incluso si las computadoras se volvieran locas, preferiríamos creer que los peligros serán superados por el espíritu de héroes humanos como el Capitán Kirk de Star Trek. Si una versión de HAL en Stanley Kubrick 2001: A Space Odyssey de evoluciona , esperamos poder simplemente destruir la memoria de la computadora y regresar a un lugar seguro.

El libro justifica bien el hecho de que esta creencia ingenua no puede aplicarse coherente o racionalmente a una máquina que puede ser muchas veces más «inteligente» que nosotros.

Se cita a Martin Luther King diciendo: «Tenemos misiles guiados, pero hombres descarriados». Nuestra invención final sugiere que ahora tenemos misiles guiados por láser de precisión, pero hombres no guiados que están entrando, quizás sin saberlo, en una empresa de alto riesgo.

Para apoyar el logro de sus objetivos, las máquinas ASI pueden competir con los humanos por recursos valiosos de una manera que pone en peligro la vida humana. Las máquinas ASI se replicarán de forma rápida e independiente. En combinación con la nanotecnología, las máquinas «pensantes» podrían «devorar el medio ambiente» muy rápidamente.

El autor sugiere de manera convincente que no es racional suponer que una máquina varios miles de veces más inteligente que los humanos querría protegernos automáticamente. Quizás asumimos que la codificación de software podría generarse e insertarse en tales máquinas de manera que se garantice la seguridad. Sin embargo, esto sería muy complicado y requeriría una considerable previsión.

Sería fácil clasificar este libro como una profecía apocalíptica. Muchos de estos libros se han escrito sobre la inevitabilidad de las caídas del mercado de valores, los desastres del cambio climático, las catástrofes políticas, monetarias o inmobiliarias. Our Final Invention no pronostica una conclusión catastrófica inevitable ni intenta alentar al lector a realizar ninguna acción en particular con respecto a la IA que no sea la vigilancia.

Una máquina «pensante» puede funcionar de forma independiente, tener un «controlador» humano para gestionar el riesgo o puede integrarse en el cuerpo / cerebro humano. Las máquinas que se acercan y superan potencialmente la capacidad del cerebro humano conllevan riesgos inherentes.

Nadie, ni siquiera los más versados ​​en este campo, sabe con precisión hasta qué punto se manifestarán estos riesgos. Simplemente no tenemos idea de qué actividades ocurrirán en la “caja negra” de una máquina que tiene una capacidad muchas veces mayor que la del intelecto humano.

Se nos advierte de la necesidad de tener mucha diligencia y planificación a medida que creamos y participamos en este progreso. La generación de IA no es menos potencialmente peligrosa que la del ébola o el plutonio.

Our Final Invention es una lectura excelente para los tecnófilos, así como para los lectores que deseen vislumbrar el futuro cercano según el color de la competencia tecnológica en rápida mejora. El texto no es demasiado técnico y el estilo es bastante legible. Mantiene un punto de vista equilibrado y no se lee como un manuscrito apocalíptico.

Los expertos entrevistados y las conclusiones alcanzadas son probablemente las que la mayoría de los lectores no habrán discernido por sí mismos o no habrán tenido la experiencia para compilar. Es una mirada reflexiva e intrigante hacia el futuro que se nos presenta con demasiada rapidez.

Fuente: https://www.nyjournalofbooks.com/book-review/our-final-invention https://en.wikipedia.org/wiki/Our_Final_Invention