Los clásicos, una solución para robots psicóticos

Por PZ.

El futuro distópico imaginado por James Cameron en “Terminator” podría convertirse en realidad este siglo, cuando los robots superen la inteligencia humana y sean capaces de rediseñarse a sí mismos. Stephen Hawking advierte sobre el peligro de la inteligencia artificial: cuando alcancen esos niveles, dijo en una conferencia el año pasado, “debemos asegurarnos de que tengan objetivos similares a los nuestros”. ¿Pero cómo puede un robot sentir como un humano si los humanos no venimos con un manual del usuario?

Frente a la paradoja evolución/amenaza y un posible desenlace como en el "Planeta de los simios", desde el Instituto de Tecnología de Georgia afirman haber creado una técnica bautizada como “Quixote”, por medio de la cual los robots podrían desarrollar sentimientos y valores morales a través de la lectura de los clásicos de la literatura. "Las diferentes culturas enseñan a los niños cómo comportarse de manera socialmente aceptable con ejemplos de conducta correcta e incorrecta en fábulas y novelas", explica Marcos Riedl, uno de los profesores a cargo de Quixote. "Creemos que con estos textos se puede eliminar el comportamiento psicótico de los robots, reforzar las opciones que no dañen a seres humanos y todavía conseguir los objetivos a alcanzar". Por ejemplo: si un robot debiera traer un remedio tan pronto como fuera posible, podría: a) robar la farmacia; b) interactuar con los farmacéuticos; c) esperar en la cola. Con las directivas de Quixote, el robot sería recompensado por esperar pacientemente y pagar la receta.

¿Será esta la manera en que puedan asegurarse las tres leyes de la robótica de Asimov? Por ahora, la respuesta es una incógnita. El periodista Stephen Moss publicó hace unos días un artículo en The Guardian donde ironizaba al respecto. Después de leer Hamlet, su robot respondería: "El vacilante príncipe de novia desquiciada demuestra lo peligroso que es actuar sin decisión. Una trama interminable y complicada obstruye el mensaje principal, que es que hay que asesinar a los enemigos de forma rápida, brutal y sin piedad. No puedo analizar el significado del extraño discurso sobre Ser o no ser. ¿En qué sentido es esa la pregunta?" Para Moss, un gran porcentaje de la literatura universal más relevante sugiere que vivimos en un mundo disfuncional: "La conclusión a la que llegaría el cerebro de mi androide", decía, "es que los humanos, a pesar de su aparente autoconfianza, están profundamente perturbados y se beneficiarían de una reprogramación urgente".

***