Los científicos ya se preocupan porque falta muy poco para que las máquinas sean más inteligentes que el hombre
Un robot que puede abrir puertas y encontrar los enchufes para recargarse a sí mismo. Los virus que nadie puede detener. Aviones Predator no pilotados, que, aunque siguen siendo controlados remotamente por una persona, se acercan a una máquina de matar autónoma.
Impresionados y alarmados por los avances en inteligencia artificial, un grupo de científicos está debatiendo si debe haber límites a la investigación que podrían conducir a la pérdida de control humano en los sistemas basados en computadoras que llevan una parte creciente de la sociedad del trabajo, desde hacer la guerra hasta chatear con clientes por teléfono.
Su preocupación es que los nuevos avances podrían crear profundos trastornos sociales e incluso tener consecuencias peligrosas.
Como ejemplos, los científicos señalaron una serie de tecnologías experimentales tan diversas como los sistemas médicos que interactúan con los pacientes para simular la empatía, y de gusanos y virus que desafían el exterminio, por lo que pueden afirmar que se ha llegado a un nivel «cucaracha» en la inteligencia de las máquinas.
Si bien estos científicos concuerdan en que estamos muy lejos de Hal, la computadora que se hizo cargo de la nave espacial en «2001: Una odisea del espacio», dicen que hay una legítima preocupación de que los avances tecnológicos transformarán la fuerza de trabajo destruyendo una amplia gama de puestos, así como forzar a los seres humanos a aprender a vivir con máquinas que cada vez más copian los comportamientos humanos.
Los investigadores – importantes científicos, investigadores en inteligencia artificial y roboticistas que se reunieron en la Conferencia Asilomar en Bahía de Monterey en California – en general, descartaron la posibilidad de superinteligencias muy centralizadas y la idea de que la inteligencia podría nacer espontáneamente a través de Internet. Pero sí coincidieron en que los robots que pueden matar de forma autónoma ya están aquí y están siendo perfeccionados.
Se prestó particular atención al hecho de que los delincuentes podrían aprovechar los sistemas de inteligencia artificial tan pronto como estén disponibles. ¿Qué puede hacer un criminal con un sintetizador de voz que podría pasarse por un ser humano? ¿Qué pasa si la inteligencia artificial se utiliza para obtener información personal de teléfonos inteligentes?
Los investigadores también examinaron las posibles amenazas a los puestos de trabajo humanos, al igual que los coches de conducción autónoma, los asistentes personales basados en software y los robots de servicio en el hogar. En Junio, un robot de servicio desarrollado por Willow Garage en Silicon Valley ha demostrado que puede navegar el mundo real.
Un informe de la conferencia, que tuvo lugar en privado el 25 de febrero, se publicará a finales de este año. Algunos asistentes a la reunión debatieron por primera vez con otros científicos este mes y en entrevistas.
La conferencia fue organizada por la Asociación para la Promoción de la Inteligencia Artificial, y en la elección de Asilomar para los debates, el grupo a propósito evocó un hito en la historia de la ciencia. En 1975, los biólogos más renombrados del mundo se reunieron en Asilomar también para discutir la nueva capacidad para remodelar la vida mediante el canje de material genético entre organismos. Preocupados acerca de los posibles riesgos biológicos y éticos, los científicos detuvieron algunos experimentos. La conferencia dio lugar a las directrices para la investigación del ADN recombinante, lo que permite continuar la experimentación.
La reunión sobre el futuro de la inteligencia artificial fue organizada por Eric Horvitz, investigador de Microsoft que ahora es presidente de la asociación.
La idea de una «explosión de inteligencia» en el que las máquinas inteligentes podrían diseñar máquinas incluso más inteligentes fue propuesta por el matemático I.J. Good en 1965. Más tarde, en conferencias y novelas de ciencia ficción, el científico Vernor Vinge popularizó la noción de un momento en que los seres humanos crean máquinas más inteligentes que los humanos, provocando cambios tan veloces que harían «terminar la era de los humanos». Él llamó a este cambio la «Singularidad».
Esta visión, aceptada pon el cine y la literatura, se considera verosímil y enervante para algunos científicos como William Joy, co-fundador de Sun Microsystems. Otros técnicos, en particular, Raymond Kurzweil, han exaltado la llegada de máquinas ultrainteligentes, diciendo que ofrecen enormes avances en la prolongación de la vida y la creación de riqueza.
«Algo nuevo ha tomado lugar en los últimos cinco a ocho años», dijo el Dr. Horvitz. «Los tecnólogos proporcionan visiones casi religiosas, y sus ideas resuenan en algunos aspectos con la misma idea del Rapto».
La versión Kurzweil de la utopía tecnológica ha capturado imaginaciones en Silicon Valley. Este verano, una organización llamada la Universidad de la Singularidad comenzó a ofrecer cursos para dar forma a los avances y ayudar a la sociedad a hacer frente a las ramificaciones.
«Mi sensación es que tarde o temprano tendríamos que hacer algún tipo de declaración o de evaluación, teniendo en cuenta la preocupación de la gente y los técnicos por el surgimiento de máquinas inteligentes», dijo el Dr. Horvitz.
El reporte A.A.A.I. tratará de evaluar la posibilidad de «la pérdida del control humano de inteligencias basadas en computación.» Asimismo, lidiar, dice Horvitz, con los problemas socioeconómicos, jurídicos y éticos, así como probables cambios en las relaciones humano-computadora. ¿Cómo se haría, por ejemplo, para referirse a una máquina que es tan inteligente como su esposa?
El Dr. Horvitz dijo que el grupo estaba buscando la manera de orientar la investigación de modo que la tecnología ayude a mejorar la sociedad en lugar de llevarla hacia una catástrofe tecnológica. Algunas investigaciones pueden, por ejemplo, conducirse en laboratorios de alta seguridad.
La reunión sobre inteligencia artificial puede ser fundamental para el futuro del rubro. Paul Berg, organizador de la reunión de Asilomar de 1975 y que recibió un Premio Nobel de Química en 1980, dice que fue importante para la comunidad científica el hacer participar al público antes que la alarma y la oposición sean inamovibles.
Tom Mitchell, profesor de inteligencia artificial y aprendizaje automático en la Universidad Carnegie Mellon, dijo que la reunión de febrero había cambiado su pensamiento. «Fui muy optimista sobre el futuro de la IA y pensando que Bill Joy y Ray Kurzweil habían ido muy lejos con sus predicciones», dijo, «pero el encuentro me hizo querer ser más abierto acerca de estas cuestiones y, en particular, enterarme de la enorme cantidad de datos referentes a nuestra vida personal».
A pesar de sus preocupaciones, el Dr. Horvitz dijo que confía en que la investigación de la inteligencia artificial beneficiará a la humanidad, y quizás incluso logre compensar defectos humanos. Recientemente demostró un sistema basado en voz que él diseñó para preguntar a los pacientes por sus síntomas y responderles con empatía. Cuando una madre dice que su niño tenía diarrea, la cara en la pantalla dice: «¡Oh, no, lamento oir eso.» Un médico le dijo luego que era maravilloso que el sistema responda a las emociones humanas, «Esa es una gran idea, pero no tengo tiempo para eso».
Fuente: NYTimes