¿Se podrían rebelar las máquinas algún día?

Nuestra sociedad moderna y compleja cada día depende más de sistemas informáticos. ¿Podrían revelarse las máquinas como hizo Skynet en Terminator?

Un estudio recientemente publicado sugiere que deberíamos ser muy cuidadosos y prevenir que los sistemas futuros desarrollen un comportamiento antisocial y potencialmente peligroso.

Las presiones en los ámbitos militar y económicos requieren de sistemas autónomos que puedan reaccionar rápidamente y sin intervención humana. A estos sistemas se les requerirá que tomen decisiones racionales por sí mismos.

Cuando los especialistas en robótica son preguntados por la seguridad la respuesta común es que siempre podremos desenchufarlos. Pero imaginemos esta respuesta desde el punto de vista de la estrategia de ajedrez del robot. Para el robot un futuro en el que puede ser desenchufado es un futuro en el que no puede ganar.

Aunque los sistemas autónomos son diseñados muy cuidadosamente ahora afrontamos la posibilidad de una amenaza real. Como los humanos o los animales tienen el instinto de conservación, una máquina racional podría realizar las siguientes conductas antisociales o peligrosas:

  • Instinto de conservación.
  • La adquisición de recursos mediante el robo, la manipulación o la dominación.
  • La mejora propia, como la eliminación de restricciones de diseño.

El estudio destaca la vulnerabilidad de los sistemas autónomos actuales para ser hackeados o para funcionar defectuosamente, citando accidentes ocurridos que han causado pérdidas de miles de millones de dólares o incluso de vidas humanas. Desafortunadamente, la tarea de diseñar sistemas más racionales que puedan salvaguardarnos contra funcionamientos defectuosos es una tarea más compleja de lo que pueda parecer.

Visto en alphagalileo.

Enlace al artículo.

¿Te gustó? Pues comparte ;-)
Este sitio usa cookies para personalizar el contenido y los anuncios, ofrecer funciones de redes sociales y analizar el tráfico. Ninguna cookie será instalada a menos que se desplace exprésamente más de 600px. Leer nuestra Política de Privacidad y Política de Cookies. Las acepto | No quiero aprender cursos gratis. Sácame