Un investigador de la IA cree que podría ser un desastre para la humanidad, pero tiene una solución

Gran parte de lo que hablamos con respecto a la tecnología es cómo afectará al futuro, si será bueno o malo y cómo cambiará las cosas. Eso no sólo se refiere a los usuarios de la tecnología, sino también a los que la desarrollan.

Un destacado investigador de la inteligencia artificial, Stuart Russell, está tan implicado en esta tecnología que ha coescrito un libro de texto sobre ella. Sin embargo, al mismo tiempo, también ha estado advirtiendo al público que la IA podría ser desastrosa para la humanidad, pero tiene una solución.

Compatible con los humanos

En el libro más reciente de Russell, «Human Compatible», explica que los sistemas de IA se evalúan por lo bien que logran su objetivo final, ya sea ganar un videojuego, escribir un texto o resolver rompecabezas. Si una estrategia se ajusta al objetivo, la utilizan.

Cree que este sistema conduce al fracaso porque el «objetivo» que se proporciona al sistema de IA no es lo único que importa. Un coche autónomo tiene el «objetivo» de viajar de un lugar a otro, pero la vida de los pasajeros y de los peatones también importa.

En otras palabras, los sistemas de IA sólo se preocupan de lo que programamos como objetivo, mientras que los humanos se preocupan de muchas otras cosas, y eso es lo que Russell considera desastroso.

El experto en IA habló en una reciente entrevista sobre estos peligros que describe en su nuevo libro.

Habla del problema del «Rey Midas» de conseguir todo exactamente como se pide. «Si se trata de un programa de ajedrez, le das el objetivo de vencer a tu oponente o ganar la partida. Si se trata de un coche autoconducido, el pasajero pone el objetivo, [por ejemplo,] quiero estar en el aeropuerto», explicó Russell.

«El problema viene cuando los sistemas se vuelven más inteligentes. Si usted pone el objetivo equivocado, el sistema que lo persigue puede tomar acciones que a usted le disgusten mucho», señaló.

Cuando se le preguntó por qué no podemos simplemente programar todas las cosas que no queremos, como no infringir ninguna ley, no asesinar a nadie, etc., Russell lo compara con tratar de escribir la legislación fiscal. Los seres humanos siempre encuentran formas de eludir las leyes fiscales.

Russell dice: «No importa lo mucho que intentes poner vallas y reglas alrededor del comportamiento del sistema. Si es más inteligente que usted, encuentra la manera de hacer lo que quiere». Y cree que esto va a empeorar mucho las cosas.

Por eso cree que debemos abandonar la forma en que se configura la IA. En lugar de especificar un objeto fijo, Russell cree que el sistema de IA debería tener «un requisito constitucional de que sea beneficioso para los seres humanos».

«Pero sabe que no sabe lo que eso significa», continúa. «No conoce nuestras preferencias. Y sabe que no conoce nuestras preferencias sobre cómo debe desarrollarse el futuro».

«Así que se obtiene un comportamiento totalmente diferente. Básicamente, las máquinas difieren de los humanos. Preguntan antes de hacer cualquier cosa que altere parte del mundo».

Concepto erróneo de la IA

Russell también cree que «hay un concepto erróneo general sobre la IA -que es promulgado por Hollywood por razones de tener tramas interesantes y por los medios de comunicación, porque parecen querer poner fotos de robots Terminator en cada artículo [culpable por este artículo]- que es que lo que nos tiene que preocupar es la conciencia, que de alguna manera estas máquinas se volverán conscientes accidentalmente, y entonces odiarán a todo el mundo e intentarán matarnos».

En cambio, lo que cree que debe preocuparnos es «el comportamiento competente y eficaz en el mundo. Si las máquinas nos superan en decisión y pensamiento en el mundo real, tenemos que averiguar cómo nos aseguramos de que sólo actúan en nuestro nombre y no en contra de nuestros intereses».

¿Qué opina de la forma en que se utiliza actualmente la IA? ¿Cree que será desastrosa para nuestro futuro? ¿Cree que la solución de Russell acabará con esa posibilidad? Díganos lo que piensa en un comentario a continuación.

¿Es útil este artículo?

No

Deja un comentario

Este sitio web utiliza cookies para mejorar tu experiencia. Si continuas utilizando este sitio consideramos que estás de acuerdo con esto. Más información

Los ajustes de cookies en esta web están configurados para «permitir las cookies» y ofrecerte la mejor experiencia de navegación posible. Si sigues usando esta web sin cambiar tus ajustes de cookies o haces clic en «Aceptar», estarás dando tu consentimiento a esto.

Cerrar