Stuart Russell's Human Compatible: IA y nuestro futuro | libros


HUna pregunta que los científicos podrían hacer con más frecuencia: ¿qué sucederá si tenemos éxito? En otras palabras, ¿cómo cambiará el mundo si logramos lo que estamos buscando? Ubicados en oficinas y laboratorios, los investigadores pueden desarrollar una visión de túnel, la perspectiva más optimista de sus creaciones. Las consecuencias inesperadas y los abusos de mala calidad se convierten en una ocurrencia tardía, un daño que la sociedad tendrá que limpiar más tarde.

Hoy, este daño se está extendiendo por todas partes: el calentamiento global, la contaminación del aire, los plásticos en los océanos, los desechos nucleares y los bebés con ADN mal reescrito. Todos son productos de tecnología limpia que resuelven viejos problemas creando nuevos. En la carrera inevitable por ser el primero en inventar, las desventajas son descartadas, inexploradas u ocultas.

En 1995, Stuart Russell escribió la libro sobre IA. Coescrito con Peter Norvig, Inteligencia artificial: un enfoque moderno se ha convertido en uno de los textos de clase más populares del mundo (Norvig trabajó para la NASA, en 2001 se unió a Google). En las últimas páginas del último capítulo, los autores se hicieron la pregunta: ¿y si lo logramos? Su respuesta fue apenas un rotundo respaldo. "Las tendencias no parecen ser demasiado negativas", sugirieron. Desde entonces, han sucedido muchas cosas: – Google y Facebook para comenzar.

en Humano compatibleRussell vuelve a la pregunta y esta vez no se detiene. El resultado es seguramente el libro más importante sobre IA este año. Tal vez, como dice el poema de Richard Brautigan, la vida es hermosa cuando todos somos observados por máquinas de gracia amorosa. Pero Russell, profesor de la Universidad de California en Berkeley, ve contingencias más oscuras. Crear máquinas que superen nuestra inteligencia sería el mayor evento en la historia de la humanidad. También puede ser el último, advierte. Él demuestra convincentemente que la forma en que elegimos controlar la IA es "probablemente el problema más importante que enfrenta la humanidad".

Russell eligió bien su momento. Decenas de miles de las mentes más brillantes del mundo ahora están construyendo IA. La mayoría trabaja en ponis de una vuelta: IA "estrechas" que procesan el habla, traducen idiomas, detectan multitudes, diagnostican enfermedades o azotan a las personas en los juegos Go to Starcraft II. Pero estos están lejos de ser el objetivo final del campo: IA versátil que iguala o supera los cerebros generales de los humanos.

Esta no es una ambición ridícula. Desde el principio, DeepMind, el grupo de inteligencia artificial propiedad de Alphabet, la empresa matriz de Google, se comprometió a "resolver los problemas de inteligencia" y luego usarlo para resolver todos los problemas. . En julio, Microsoft firmó un acuerdo de $ 1 mil millones con OpenAI, una compañía estadounidense, para la construcción de una inteligencia artificial que imita el cerebro humano. Es una carrera con grandes apuestas. Como dijo Vladimir Putin: quien se convierta en el líder de la IA "se convertirá en el líder del mundo".

Russell no finge que ya casi estamos aquí. En una sección, analiza los enormes problemas que enfrentan los ingenieros informáticos para crear inteligencia artificial a nivel humano. Las máquinas deben saber cómo convertir palabras en conocimiento coherente y confiable; deben aprender a descubrir nuevas acciones y ordenarlas correctamente (hervir la tetera, tomar una taza, tirar una bolsita de té). Y como nosotros, tienen que administrar sus recursos cognitivos para que puedan tomar las decisiones correctas rápidamente. Estos no son los únicos obstáculos, pero dan una idea de la tarea por delante. Russell cree que eso mantendrá ocupados a los investigadores durante otros 80 años, pero señala que es imposible predecir el momento.

Incluso con un apocalipsis acampado en el horizonte, es una torre de inteligencia retorcida e ingeniosa y a donde esto puede llevarnos. ¿Y dónde está exactamente? Una máquina que domine todo lo anterior sería un "gran tomador de decisiones en el mundo real", dice Russell. Absorbería una gran cantidad de información de Internet, televisión, radio, satélites y videovigilancia, y así ayudaría a comprender mejor el mundo y su gente que ningún ser humano podría esperar.

¿Qué podría ir bien? En educación, los tutores de IA maximizarían el potencial de cada niño. Dominarían la gran complejidad del cuerpo humano, permitiéndonos desterrar la enfermedad. Como asistentes personales digitales, avergonzarían a Siri y Alexa: "De hecho, tendrías un abogado, un contador y un asesor político de alto calibre para cualquier momento.

¿Y cuáles son las desventajas? Sin un progreso real en la seguridad y la regulación de la IA, Russell anticipa muchos trastornos y su capítulo sobre el mal uso de la IA es una lectura siniestra. La inteligencia artificial avanzada otorgaría a los gobiernos poderes extraordinarios de vigilancia, persuasión y control como "la Stasi se verá como aficionados". Y a pesar de que los robots asesinos al estilo Terminator no están a punto de erradicar a la humanidad, los drones que seleccionan y matan a las personas en función de sus huellas faciales, color de piel o uniformes son bastante alcanzables Con respecto a los trabajos, ya no podemos ganarnos la vida proporcionando trabajo físico o mental, pero aún podemos proporcionar nuestra humanidad. Russell señala: "Tendremos que ser buenos para ser humanos".

¿Qué es peor que una IA que destruye la sociedad? Una IA que destruye la sociedad y no se apagará. Es una perspectiva aterradora y aparentemente absurda a la que Russell dedica mucho tiempo. La idea es que las máquinas inteligentes se apaguen, como lo muestra HAL en 2001: La odisea del espacioEs difícil alcanzar esos objetivos si alguien desconecta. Dele a la inteligencia artificial superinteligente una tarea clara, por ejemplo, preparar café, y su primer movimiento será apagar su interruptor de apagado. La respuesta, argumenta Russell, radica en un enfoque radicalmente nuevo en el que las IA tienen dudas sobre sus objetivos y, por lo tanto, nunca se opondrán a su cierre. Luego argumenta a favor de una inteligencia artificial "ventajosamente beneficiosa", cuyos algoritmos han demostrado matemáticamente que ayudan a sus usuarios humanos. Basta decir que es un trabajo en progreso. ¿Cómo manejará mi IA la tuya?

Seamos claros: muchos investigadores en inteligencia artificial ridiculizan tales temores. Después de que el filósofo Nick Bostrom hubiera señalado los peligros potenciales de la IA multipropósito en super-inteligencia (2014), un grupo de expertos estadounidense, la Fundación de Tecnología e Innovación de la Información, otorgó el Premio Luddism a "alarmistas que promocionan un apocalipsis de la inteligencia artificial". Esto fue indicativo del oscuro debate sobre la seguridad de la IA, que está a punto de caer en el tribalismo. El peligro que se presenta aquí es menos una destrucción abrupta de la especie, más un debilitamiento inexorable: una pérdida de esfuerzo y comprensión que erosiona los cimientos de la civilización y nos deja "pasajeros en un crucero". gestionado por máquinas, durante un crucero continúa para siempre ".

Compatible con humanos es publicado por Allen Lane (£ 25). Para pedir una copia, vaya a guardianbookshop.com o llame al 020-3176 3837. Gastos de envío gratis en el Reino Unido desde £ 15 (solo pedidos en línea). Pedidos telefónicos mínimos de £ 1.99.