¿Se pueden revelar las máquinas contra el hombre?

La llegada de un escenario similar en el futuro, un escenario parecido al de la película Terminator, en el que las máquinas se revelarían contra los humanos, podría ser mucho más que una historia de ciencia ficción, según un informe realizado por los expertos en alta tecnología de la Marina de Estados Unidos.

El informe, primer trabajo serio de este tipo en ética de robots militares, prevé la rápida aproximación de una era en la que los robots serán lo suficientemente inteligentes como para tomar decisiones en el campo de batalla. 

Esos robots, que en un principio trabajarían para preservar las vidas humanas, podrían darse cuenta progresivamente de sus ventajas sobre los soldados humanos. 

"Existe el error muy común de pensar que los robots harán sólo aquello para lo que los hemos programado", explica Patrick Lin, responsable del estudio. Desafortunadamente, tal creencia está muy pasada de moda, se remonta a un tiempo en el que los programas podían ser escritos y entendidos por una sola persona". 

Lin explica que la realidad es que los programas modernos incluyen millones de líneas de código y están escritos por equipos de programadores, ninguno de los cuales conoce el programa entero. 

Por ese motivo, no hay nadie capacitado de forma individual para predecir qué efectos producirá la interacción de determinadas porciones de largos programas sin realizar antes carísimas pruebas de campo que, por falta de presupuesto o por falta de interés, a menudo no se llevan a cabo.

Se debe entender entonces, por las palabras de Lin, que no existe control sobre estos programas, y también se entiende que es prácticamente imposible pensar en establecer tal control a modo de conocer el “programa totalitario” para controlarlo, por decirlo así. 

Tremendo.

¿Qué opinan ustedes?

Tags: robots, ciencia ficcion, rebelion maquinas